最新公告
  • 欢迎您光临起源地模板网,本站秉承服务宗旨 履行“站长”责任,销售只是起点 服务永无止境!立即加入钻石VIP
  • python爬虫中的urllib库代理如何设置?

    正文概述    2020-10-24   255

    对于爬虫,想必大家从各个方面,以及需求上都了解过很多,小伙伴们也喜欢去了解这个内容,因为绝大部分的python学习者,会去从事这个岗位,因此,对于最经常使用的几个功能,小编要告知大家,譬如,今天的主题,就是小伙伴们留言给小编,要阐述的内容,内容很重要,要仔细阅读下文呢~

    关于urllib

    urllib 库一般使用 ProxyHandler 设置代理,参数是字典类型,键名是协议。

    urllib代理设置代码如下

    from urllib.error import URLError
    from urllib.request import ProxyHandler
    from urllib.request import build_opener
     
    # 通过ProxyHandler来设置代理服务器,参数为字典类型,键名为协议,键值为代理
    proxy_handler = ProxyHandler({"http": "http://113.120.33.75:9999",
                                  "https":"https://120.83.99.72:9999"})
     
    # 创建一个opener对象,比openurl多了一个header
    opener = build_opener(proxy_handler)
    try:
        # 通过opener对象打开url
        response = opener.open("http://httpbin.org/get")
        print(response.read().decode("utf-8"))
    except URLError as e:
    print(e.reason)

    结果会出现两种情况

    [WinError 10061] 由于目标计算机积极拒绝,无法连接。
    解决方法:主要是代理不可用,更换代理就行

    [WinError 10060] 由于连接方在一段时间后没有正确答复或连接的主机没有反应,连接尝试失败。  

    解决方法:将浏览器的代理设置中的局域网设置,里面的自动配置脚本选项改为自动检测设置即可。

    运行结果如下,可以看到origin已经改成了代理IP

    {
      "args": {},
      "headers": {
        "Accept": "text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,*/*;q=0.8,application/signed-exchange;v=b3",
        "Accept-Encoding": "gzip, deflate",
        "Accept-Language": "zh-CN,zh;q=0.9",
        "Host": "httpbin.org",
        "Upgrade-Insecure-Requests": "1",
        "User-Agent": "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/74.0.3729.169 Safari/537.36"
      },
      "origin": "113.120.33.75, 113.120.33.75",
      "url": "https://httpbin.org/get"
    }

    这样就可以完成代理设置了哦,之后如果大家遇到一样的问题,可以查看这个内容,直接套用代码就可以解决了哦~


    起源地下载网 » python爬虫中的urllib库代理如何设置?

    常见问题FAQ

    免费下载或者VIP会员专享资源能否直接商用?
    本站所有资源版权均属于原作者所有,这里所提供资源均只能用于参考学习用,请勿直接商用。若由于商用引起版权纠纷,一切责任均由使用者承担。更多说明请参考 VIP介绍。
    提示下载完但解压或打开不了?
    最常见的情况是下载不完整: 可对比下载完压缩包的与网盘上的容量,若小于网盘提示的容量则是这个原因。这是浏览器下载的bug,建议用百度网盘软件或迅雷下载。若排除这种情况,可在对应资源底部留言,或 联络我们.。
    找不到素材资源介绍文章里的示例图片?
    对于PPT,KEY,Mockups,APP,网页模版等类型的素材,文章内用于介绍的图片通常并不包含在对应可供下载素材包内。这些相关商业图片需另外购买,且本站不负责(也没有办法)找到出处。 同样地一些字体文件也是这种情况,但部分素材会在素材包内有一份字体下载链接清单。
    模板不会安装或需要功能定制以及二次开发?
    请QQ联系我们

    发表评论

    还没有评论,快来抢沙发吧!

    如需帝国cms功能定制以及二次开发请联系我们

    联系作者

    请选择支付方式

    ×
    迅虎支付宝
    迅虎微信
    支付宝当面付
    余额支付
    ×
    微信扫码支付 0 元