各位能不能给推荐一个python的分布式爬虫框架

【各位能不能给推荐一个python的分布式爬虫框架】

各位能不能给推荐一个python的分布式爬虫框架

文章插图
可以推荐一个python分布式爬虫框架吗?能否推荐一下python分布式爬虫框架简介:目前我用芹菜进行分布式处理,主从模式 。每个从机使用scrapy抓取和存储详情页,其中scrapy的调度、去重和缓存由redis重写;在