- crawlers/base.py: 爬虫基类(请求封装/延时/重试/COOKIE管理) - crawlers/yichens_spider.py: 一尘帖子爬虫(分类解析/时间解析/数据入库) - YichensPostSpider: 帖子采集(支持多板块/分页/去重) - YichensUserSpider: 用户采集(支持详情爬取) - API触发: POST /api/v1/crawl-jobs/trigger?source=yichens |
||
|---|---|---|
| api | ||
| config | ||
| crawlers | ||
| .gitignore | ||
| README.md | ||
| config.py | ||
| database.py | ||
| requirements.txt | ||
README.md
CoolBotDataSys
酷博特数据分析系统 - 多源数据采集、存储、清洗、分析全链路自动化平台