Scrapy-Redis是Scrapy的分布式扩展模块,有了它,我们就可以方便地实现Scrapy分布式爬虫的搭建。
GitHub:https://github.com/rmax/scrapy-redis
PyPI:https://pypi.python.org/pypi/scrapy-redis
官方文档:http://scrapy-redis.readthedocs.io

一、安装Scrapy-Redis

pip3 install scrapy-redis

也可以下载wheel文件安装https://pypi.python.org/pypi/scrapy-redis#downloads

测试:
import scrapy_redis #不报错即可

最新文章

  1. 超详细的java反射教程
  2. [iOS问题归总]SourceTree+osChina版本管理出现的问题
  3. Oracle表连接
  4. Android——简单音乐播放器
  5. CSS3 :nth-of-type() 选择器
  6. 【C疯狂的教材】(四)C语言分支语句
  7. oh-my-zsh安装和简单定制
  8. Groovy闭包
  9. Your password does not satisfy the current policy requirements问题解决方法
  10. 【LeetCode】正则表达式匹配(动态规划)
  11. 【mmall】url-pattern配置为"/"和"/*"的区别
  12. 使用NPOI导入导出Excel(xls/xlsx)数据到DataTable中
  13. [z]vc boost安装
  14. Dijkstra(最短路求解)
  15. 九个问题从入门到熟悉HTTPS
  16. 10th 规格说明书练习——吉林一日游
  17. python爬虫 (一) 爬虫基础了解,urllib
  18. 如何使一个openwrt下的软件开机自启动
  19. 编解码技术:I帧与IDR帧的区别总结
  20. 使用ant宏定义任务

热门文章

  1. 为什么用于开关电源的开关管一般用MOS管而不是三极管
  2. linux下的IO模型---学习笔记
  3. STM32定时器学习---基本定时器
  4. 洛谷 P5664 [CSP-S2019] Emiya 家今天的饭
  5. python网站(持续更新)
  6. Jquery校验中国身份证号码是否正确
  7. configure: error: C preprocessor "arm-linux-gnueabihf-g++" fails sanity check
  8. lamp 架构的理解
  9. prometheus(2)之对kubernetes的监控
  10. js运算符 及 运算符优先级