设为首页
收藏本站
开启辅助访问
全部
问与答
创意
技术
酷工作
生活
交易
资源
节点
飞墙
Follow
明白贴
影视
报酬
登录
注册
飞社-令人惊奇的创意工作者社区-
›
首页
›
问与答
›
scrapy 爬虫采集多个站点,会不断增加站点,如何工程化 ...
FSHEX=FIND+SHARE+EXPRESS
飞社-令人惊奇的创意工作者社区- 是一个关于发现分享表达的地方
现在登录
没有账号?
立即注册
推荐主题
›
大家怎么看待 cg 这件事情
›
现在经济这么差的么
›
是去是留?
›
你们平时用高德地图还是百度地图?
›
早上上班碰到一辆很急的比亚迪,险些发生事
今日热议主题
大家如何看待胖东来超市,最近特别火,好多
狗狗币还能买不?
macOS 上最新版的微信 Version. 3.8.9 (285
今天穿什么颜色,根据五行计算穿衣颜色小程
继续收 win 笔记本电脑,要求 14 寸
R5S lts 版本
图个饭钱,新开了公众号分享我买过的值得推
观贴《各位对小区野猫什么态度》有感
C 怎么进阶学 C++呀
「广州五号停机坪」出 「小米 14 白色 16+5
scrapy 爬虫采集多个站点,会不断增加站点,如何工程化项目呢 是把全部站点的爬虫写到一个 scrapy 还是每个站点都创建一个 scrapy 工程?
xoxo419
· 2024-10-25 05:21:11 · 40 次点击
RT
举报
·
40 次点击
登录
注册
站外分享
微信扫一扫
QQ分享
微博分享
豆瓣分享
复制链接
显示全部
|
最新评论
2 条回复
沙发
qfly
小成
2024-10-25 08:57:36
简单的办法是一个站点一个 然后挂在 scrapyd 下 ,crontab 触发或者外部网站都可以触发,数据进数据库不同表。 由于每个站点内容不一样 很难统一数据库表结构。如果数据类似 那么就将所有数据写入同一批表,用关键词区分不同网站。当然你能将整理出规则,那也是可行的,数据库就设计的复杂点,定义元数据,根据要求写入不同表。但如果没几个网站这样做不值得。
板凳
EndlessMemory
小成
2024-10-25 09:34:37
每个站一个
浏览过的版块
动漫
推广
返回顶部