爬虫的盗亦有道Robots协议
爬虫的规定
Robots协议
网站开发者对于网络爬虫的规范的公告,你可以不遵守可能存在法律风险,但尽量去遵守。
Robots协议:在网页的根目录+robots.txt
相关推荐：《Python视频教程》
Robots协议的基本语法:
#注释,*代表所有,/代表根目录 User-agent:* #user-agent代表来源 Allow:/ #代表运行爬取的内容 Disallow:/ #代表不可爬取的目录,如果是/后面没有写内容,便是其对应的访问者不可爬取所有内容
并不是所有网站都有Robots协议。
如果一个网站不提供Robots协议,是说明这个网站对应所有爬虫没有限制。
类人行为可以不参考robots协议,比如我们写的小程序访问量很少,内容也少但是内容不能用于商业用途。
总的来说请准守Robots协议。
常见问题FAQ
- 免费下载或者VIP会员专享资源能否直接商用？
- 本站所有资源版权均属于原作者所有，这里所提供资源均只能用于参考学习用，请勿直接商用。若由于商用引起版权纠纷，一切责任均由使用者承担。更多说明请参考 VIP介绍。
- 提示下载完但解压或打开不了？
- 找不到素材资源介绍文章里的示例图片？
- 模板不会安装或需要功能定制以及二次开发？
发表评论
还没有评论，快来抢沙发吧！