13840167804

网站建设 APP开发 小程序

您当前位置> 首页 > 知识 > 网站建设

介绍robots.txt文件的存储与语法应用_睿合科技

发表时间:2020-08-27 14:27:05

文章作者:

浏览次数:

当我们查看网站的背景文件时,我们会发现有一个机器人。各种文件中的TXT文件。机器人文件在优化中起着重要作用,主要体现在网站的收集上。我想知道你对机器人协议有什么了解吗?接下来,我们将向您介绍robots.txt文件的存储与语法应用。  

1、robots.txt存储位置  

机器人文件必须更改为网站的根目录,因为搜索引擎会从根目录中抓取网页,蜘蛛在抓取网站内容时会首先检测到机器人文件,根据机器人文件的规则抓取网站的内容(即查看其他网站的机器人文件)。站点,可以直接输入“域名/robots.txt”查看具体内容)。  

2、机器人与无跟随者的区别  

机器人和NoFollower的本质区别在于NoFollower只禁止蜘蛛跟踪当前网页上的超链接,蜘蛛可能会抓取不通过其他路径跟踪的网页。另一方面,机器人禁止搜索引擎索引不允许的页面。也就是说,搜索引擎可以搜索不跟随者丢失的页面,但不能搜索机器人不允许的页面。  

介绍robots.txt文件的存储与语法应用_睿合科技(图1)

3、机器人的语法规则  

sitemap指定站点地图的路径,useragent指定特定的搜索引擎spider(useragent:*,代表所有搜索引擎,useragent:googlebot指定搜索引擎spider)。允许:允许对路径进行爬网,不允许:禁止对路径进行爬网。您可以使用通配符disallow:/*。禁止蜘蛛爬行所有CSS文件(具体见本网站机器人文件)。  

4、机器人的应用  

机器人禁止后台登录地址被搜索引擎包含,避免黑客利用搜索引擎的inulr命令查找网站的后台登录地址,提高网站的安全性。同时,蜘蛛可以被禁止抓取大容量的文件,以提高网站的访问速度。  

通过介绍我们的优邦运seo优化编辑器,相信您对机器人协议有一定的了解。当然,如果您想了解更多关于网站优化内容的信息,欢迎与我们联系,谢谢您的支持和浏览。

相关案例查看更多

 

请留言您想咨询的项目

请填写您的联系方式,我们将在24小时内回复

hlj0516
hlj0516
已为您复制好微信号,点击进入微信