最新公告
  • 欢迎您光临起源地模板网,本站秉承服务宗旨 履行“站长”责任,销售只是起点 服务永无止境!立即加入钻石VIP
  • Python3爬虫利器:Scrapyrt的安装(Scrapy分布式)

    正文概述    2020-10-08   690

    Python3爬虫利器:Scrapyrt的安装(Scrapy分布式)

    Scrapyrt为Scrapy提供了一个调度的HTTP接口,有了它,我们就不需要再执行Scrapy命令而是通过请求一个HTTP接口来调度Scrapy任务了。Scrapyrt比Scrapyd更轻量,如果不需要分布式多任务的话,可以简单使用Scrapyrt实现远程Scrapy任务的调度。

    1. 相关链接

    GitHub:https://github.com/scrapinghub/scrapyrt

    官方文档:http://scrapyrt.readthedocs.io

    2. pip安装

    这里推荐使用pip安装,命令如下:

    pip3 install scrapyrt

    接下来,在任意一个Scrapy项目中运行如下命令来启动HTTP服务:

    scrapyrt

    运行之后,会默认在9080端口上启动服务,类似的输出结果如下:

    scrapyrt
    2017-07-12 22:31:03+0800 [-] Log opened.
    2017-07-12 22:31:03+0800 [-] Site starting on 9080
    2017-07-12 22:31:03+0800 [-] Starting factory <twisted.web.server.Site object at 0x10294b160>

    如果想更换运行端口,可以使用-p参数,如:

    scrapyrt -p 9081

    这样就会在9081端口上运行了。

    3. Docker安装

    另外,Scrapyrt也支持Docker。比如,要想在9080端口上运行,且本地Scrapy项目的路径为/home/quotesbot,可以使用如下命令运行:

    docker run -p 9080:9080 -tid -v /home/user/quotesbot:/scrapyrt/project scrapinghub/scrapyrt

    这样同样可以在9080端口上监听指定的Scrapy项目。

    python学习网,免费的在线学习python平台,欢迎关注!

    本文转自:https://cuiqingcai.com/5456.html


    起源地下载网 » Python3爬虫利器:Scrapyrt的安装(Scrapy分布式)

    常见问题FAQ

    免费下载或者VIP会员专享资源能否直接商用?
    本站所有资源版权均属于原作者所有,这里所提供资源均只能用于参考学习用,请勿直接商用。若由于商用引起版权纠纷,一切责任均由使用者承担。更多说明请参考 VIP介绍。
    提示下载完但解压或打开不了?
    最常见的情况是下载不完整: 可对比下载完压缩包的与网盘上的容量,若小于网盘提示的容量则是这个原因。这是浏览器下载的bug,建议用百度网盘软件或迅雷下载。若排除这种情况,可在对应资源底部留言,或 联络我们.。
    找不到素材资源介绍文章里的示例图片?
    对于PPT,KEY,Mockups,APP,网页模版等类型的素材,文章内用于介绍的图片通常并不包含在对应可供下载素材包内。这些相关商业图片需另外购买,且本站不负责(也没有办法)找到出处。 同样地一些字体文件也是这种情况,但部分素材会在素材包内有一份字体下载链接清单。
    模板不会安装或需要功能定制以及二次开发?
    请QQ联系我们

    发表评论

    还没有评论,快来抢沙发吧!

    如需帝国cms功能定制以及二次开发请联系我们

    联系作者

    请选择支付方式

    ×
    迅虎支付宝
    迅虎微信
    支付宝当面付
    余额支付
    ×
    微信扫码支付 0 元