wordpress网站中的robots.txt内容设置的详细过程

学习NO.1

道勤小编刚入手wordpress网站不久，对于PHP这一类语言来说还不是很熟悉。每天都在看关于wordpress优化的文章，其中robots.txt内容设置是不可或缺的。再看了月光博客的一篇日志后，特此记录下来，留待自己学习。此篇文章的技术性介绍为转载于月光博客！

首先，在介绍前先说下我的robots.txt内容的设置，因为我设置了搜索引擎蜘蛛爬行监测，所以有些东西是不能让蜘蛛抓取的，暂时的设置为：

User-agent: *Disallow: /wp-Disallow: /feed/Disallow: /comments/feedDisallow: /trackback/即：禁止蜘蛛爬行抓取我网站上的任何关于每个用户的文件及信息。

一.robots.txt的概念：

robots.txt(统一小写)是一种存放于网站根目录下的ASCII编码的文本文件，它通常告诉网络搜索引擎的漫游器(又称网络蜘蛛)，此网站中的哪些内容是不能被搜索引擎的漫游器获取的，哪些是可以被(漫游器)获取的。这个文件用于指定spider在您网站上的抓取范围，一定程度上保护站点的安全和隐私。同时也是网站优化利器，例如屏蔽捉取站点的重复内容页面。

robots.txt目前并不是一种标准，只是一种协议!所以现在很多搜索引擎对robots.txt里的指令参数都有不同的看待。

二.使用robots.txt需要注意的几点地方：

1、指令区分大小写，忽略未知指令，下图是本博客的robots.txt文件在Google管理员工具里的测试结果;

2、每一行代表一个指令，空白和隔行会被忽略;

3、“#”号后的字符参数会被忽略;

4、有独立User-agent的规则，会排除在通配“*”User agent的规则之外;

5、可以写入sitemap文件的链接，方便搜索引擎蜘蛛爬行整站内容。

6、尽量少用Allow指令，因为不同的搜索引擎对不同位置的Allow指令会有不同看待。

三、Wordpress的robots.txt优化设置

1、User-agent： *

一般博客的robots.txt指令设置都是面对所有spider程序，用通配符“*”即可。如果有独立User-agent的指令规则，尽量放在通配“*”User agent规则的上方。

2、Disallow： /wp-admin/
Disallow： /wp-content/
Disallow： /wp-includes/

屏蔽spider捉取程序文件，同时也节约了搜索引擎蜘蛛资源。

3、Disallow： /*/trackback

每个默认的文章页面代码里，都有一段trackback的链接，如果不屏蔽让蜘蛛去捉取，网站会出现重复页面内容问题。

4、Disallow： /feed
Disallow： /*/feed
Disallow： /comments/feed

头部代码里的feed链接主要是提示浏览器用户可以订阅本站，而一般的站点都有RSS输出和网站地图，故屏蔽搜索引擎捉取这些链接，节约蜘蛛资源。

5、Disallow： /?s=*
Disallow： /*/?s=*

这个就不用解释了，屏蔽捉取站内搜索结果。站内没出现这些链接不代表站外没有，如果收录了会造成和TAG等页面的内容相近。

6、Disallow： /?r=*

屏蔽留言链接插件留下的变形留言链接。(没安装相关插件当然不用这条指令)

7、Disallow： /*.jpg$
Disallow： /*.jpeg$
Disallow： /*.gif$
Disallow： /*.png$
Disallow： /*.bmp$

屏蔽捉取任何图片文件，在这里主要是想节约点宽带，不同的网站管理员可以按照喜好和需要设置这几条指令。

8、Disallow： /?p=*

屏蔽捉取短链接。默认头部里的短链接，百度等搜索引擎蜘蛛会试图捉取，虽然最终短链接会301重定向到固定链接，但这样依然造成蜘蛛资源的浪费。

9、Disallow： /*/comment-page-*
Disallow： /*?replytocom*

屏蔽捉取留言信息链接。一般不会收录到这样的链接，但为了节约蜘蛛资源，也屏蔽之。

10、Disallow： /a/date/
Disallow： /a/author/
Disallow： /a/category/
Disallow： /?p=*&preview=true
Disallow： /?page_id=*&preview=true
Disallow： /wp-login.php

屏蔽其他的一些形形色色的链接，避免造成重复内容和隐私问题。

10、Sitemap:http://***.com/sitemap.txt

网站地图地址指令，主流是txt和xml格式。告诉搜索引擎网站地图地址，方便搜索引擎捉取全站内容，当然你可以设置多个地图地址。要注意的就是Sitemap的S要用大写，地图地址也要用绝对地址。

上面的这些Disallow指令都不是强制要求的，可以按需写入。也建议站点开通谷歌管理员工具，检查站点的robots.txt是否规范。

好了，以上就是对利用robots.txt对wordpress博客进行优化的详细内容，希望可以帮助和我一样刚接触wordpress博客的同学。

道勤主机提供365天*24小时全年全天无休、实时在线、零等待的售后技术支持。竭力为您免费处理您在使用道勤主机过程中所遇到的一切问题! 如果您是道勤主机用户，那么您可以通过QQ【792472177】、售后QQ【59133755】、旺旺【诠释意念】、微信：q792472177免费电话、后台提交工单这些方式联系道勤主机客服！ 如果您不是我们的客户也没问题，点击页面最右边的企业QQ在线咨询图标联系我们并购买后，我们为您免费进行无缝搬家服务，让您享受网站零访问延迟的迁移到道勤主机的服务！