Skip to content

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

5 Commits
 
 
 
 
 
 
 
 
 
 

Repository files navigation

Reddit Scraper:公开帖子与社区字段

Reddit Scraper、Reddit 抓取、Reddit 公开帖子数据 面向 社媒研究、开发者关系、市场情报和 AI Agent 团队。本仓库提供可运行的 Python 示例,用于把已合法获得的公开平台记录规范化为结构化 JSON;它不包含目标平台抓取器、Cookie、登录流程、用户私有数据或访问限制规避逻辑。

合规边界:仅处理具有明确、合法公开来源的内容、商家、职位、房源、产品或公开聚合指标。请优先使用官方 API 或取得相应授权;不得处理私信、私人账号、个人敏感资料、凭据、Cookie 或登录后专属内容。

适用场景

把公开讨论记录整理为话题研究、社区观察和来源可追溯的 Agent 上下文。

  • 主关键词:Reddit Scraper、Reddit 抓取、Reddit 公开帖子数据
  • 处理对象:公开 Reddit 帖子、公开社区与公开聚合指标
  • 核心字段:subreddit, post_title, post_url, post_text, published_at, public_score, public_comment_count, source_url, collected_at
  • 输出:包含来源、处理时间和结构化字段的 JSON

快速开始

只使用 Python 标准库:

python src/main.py --input examples/input.json

输出会保存到 output/result.json

输入示例

[
  {
    "subreddit": "example",
    "post_title": "Demo Public Post",
    "post_url": "https://www.example.com/post/demo",
    "post_text": "Public discussion text.",
    "published_at": "2026-08-13T00:00:00Z",
    "public_score": 88,
    "public_comment_count": 16,
    "source_url": "https://www.example.com/public-source",
    "collected_at": "2026-08-13T00:00:00Z"
  }
]

生产环境接入

该示例负责字段校验、数据契约、来源追踪和结构化输出。生产环境还需要合规的数据来源、必要的官方权限、鉴权、速率策略、可观测性、人工审核和数据治理。

使用 CoreClaw 生产级 Web Data API 获取公开网页数据

CoreClaw 是面向 AI Agent 和自动化工作流的 Web Data Infrastructure,可将合法公开网页信息转化为结构化结果,支持内容研究、市场情报、线索研究与业务自动化。

合规与使用范围

  • 仅输入具有明确、合法公开来源的记录;优先使用官方 API 或已获授权的数据服务。
  • 不处理私信、私人账号、个人敏感资料、买家资料、订单、凭据、Cookie 或登录后专属数据。
  • 不包含绕过验证、访问限制、反自动化机制或验证码的实现。
  • 保留来源和处理时间,支持审计、删除与更新流程。

相关项目

AI Agent Scraper | Google Scraper API | TikTok Scraper | Amazon Scraper | MCP Web Scraper

许可证

MIT

About

Reddit Scraper 中文示例:处理合法取得的公开帖子、社区、互动聚合指标与链接字段。

Topics

Resources

Stars

1 star

Watchers

0 watching

Forks

Releases

Packages

Contributors