2024年什么是robots协议？（网站robots协议使用教程）

2024-02-26 王柯团队

网站robots协议使用教程

robots协议可以说是各种网络爬虫程序与网站之间的一种约定，前段时间etao和京东就360buy内容的抓取闹得像两个孩子（PS：这篇文章写了一段时间了），且不论京东与etao的对错是非，从中我们可以知道robots可以将一些内容不开放给网络爬虫抓取，网络爬虫呢也完全可以不理会robots协议，按照自己的喜好获取你的信息，纵然是需要登录的网站爬虫也能注册账号登录，只是看想与不想。

也许有人说这样看robots协议一点作用也没有了，zhihu也曾讨论过robots是否涉及法律，协议的存在有其一定的约束力，但对于流氓行径连法律都不能完全阻止更别说协议了。

robots协议在遵守其约束的行为中能对SEO帮助很大的，下面看下都能做些什么？

第一：robots能规范网站的URL

网站有两种甚至3种以上地址的时候，该协议就能禁止蜘蛛爬去你不想展示的几种URL，而使网站解决站内重复问题集中权重。

网站有时候为了数据分析会在url接受后添加一些参数以区分来路，这样也是能用该协议解决的

第二：鉴于网站不想通过搜索引擎展示给用户的一些内容，也可以使用 robots.txt解决

第三：控制蜘蛛抓取，以减轻服务器负担，对于内容数量比较大的网站蜘蛛抓取对于服务器资源的消耗是十分大的。

第四：和nofollow配合控制蜘蛛对网站的充分抓取

第五：robots.txt 支持添加网站地址以促进网站抓取和收录，语法：Sitemap:http://www.snlvyou.com/sitemap.xml

robots.txt文件用法举例

微信扫码上方二维码，可领取2025年最新互联网创业项目！

项目收款截图

推荐阅读：

2024年最火的小本生意有哪些（一年四季不愁销路的生意）

2024年注册shopee要多少钱？需要哪些其他费用？

2024年自媒体发视频怎么赚钱？赚钱方式有哪些？

2024年中消协点名，特斯拉登上年度维权第一

2024年最火的儿童生意（吸引小孩子的生意项目）

2024年做tiktok需要投资多少钱？有哪些费用？

2024年做啥生意投资小利润大（2024年做啥生意投资小利润大）

2024年中国将推动跨境电商等新业态新模式加快发展，培育外贸新动能

2024年做淘宝店需要投入多少钱（做淘宝店需要具备什么）

2024年做跨境电商需要哪些条件？要做好哪几方面？

2024年种植1亩羊肚菌成本（羊肚菌一亩的成本多少）

2024年中国半导体进口，两年来首次下跌

2024年做亚马逊要设置包邮吗？亚马逊自发货包装要求

2024年做电商如何自己出单号（自发货打单全流程）

2024年做跨境电商不会英语怎么办？新手如何运营？

VIP项目下载

随机文章

最新文章

返回
首页

咨询客服领取项目

例1.禁止所有搜索引擎访问网站的任何部分	User-agent: *Disallow: /
例2.允许所有的robot访问(或者也可以建一个空文件 “/robots.txt”)	User-agent: Allow: /另一种写法是User-agent: Disallow:
例3. 仅禁止Baiduspider访问您的网站	User-agent: BaiduspiderDisallow: /
例4. 仅允许Baiduspider访问您的网站	User-agent: BaiduspiderAllow:/
例5. 禁止spider访问特定目录在这个例子中，该网站有三个目录对搜索引擎的访问做了限制，即robot不会访问这三个目录。需要注意的是对每一个目录必须分开声明，而不能写成 “Disallow: /cgi-bin/ /tmp/”。	User-agent: *Disallow: /cgi-bin/Disallow: /tmp/Disallow: /~joe/
例6. 允许访问特定目录中的部分url	User-agent: *Allow: /cgi-bin/seeAllow: /tmp/hiAllow: /~joe/look
*例7. 使用””限制访问url**禁止访问/cgi-bin/目录下的所有以”.htm”为后缀的URL(包含子目录)。