WonderCSS

了解 robots.txt 文件写法

对于一个新上线的网站这种 SEO 优化手段都施加完后,暗暗自喜时可别忘了网站的第一个门槛:robots协议。Robots之所以称之为协议就是因为它不是 “命令” 而是跟搜索引擎爬虫间的单方面协议。因而 robots 中的设置并不意味着100%的生效,但那些知名君子如 Google Yahoo Bing Baidu 等搜索引擎都支持,所谓小人们不管也罢。

Robots 协议有什么作用呢?

robots协议用来告知搜索引擎哪些页面能被抓取,哪些页面不能被抓取;可以屏蔽一些网站中比较大的文件,如:图片,音乐,视频等,节省服务器带宽;可以屏蔽站点的一些死链接。方便搜索引擎抓取网站内容;设置网站地图连接,方便引导蜘蛛爬取页面。

让我们来了解下 Robots 都有哪些写法

  1. User-agent: * 这里的 * 代表的所有的搜索引擎种类,*是一个通配符
  2. Disallow: /admin/ 这里定义是禁止爬寻admin目录下面的目录
  3. Disallow: /cgi-bin/*.htm 禁止访问/cgi-bin/目录下的所有以”.htm“为后缀的URL(包含子目录)。
  4. Disallow: /*?* 禁止访问网站中所有包含问号 (?) 的网址
  5. Disallow: /.jpg$ 禁止抓取网页所有的.jpg格式的图片
  6. Disallow: /ab/adc.html 禁止爬取ab文件夹下面的adc.html文件。
  7. Allow: /cgi-bin/ 这里定义是允许爬寻cgi-bin目录下面的目录
  8. Allow: /tmp 这里定义是允许爬寻tmp的整个目录
  9. Allow: .htm$ 仅允许访问以”.htm”为后缀的URL。 
  10. Allow: .gif$ 允许抓取网页和gif格式图片
  11. Sitemap: 网站地图 告诉爬虫这个页面是网站地图

robots.txt文件应该放置在网站根目录下。当搜索引擎的爬虫们进入网站时首先会检查该网站中是否存在 robots.txt 这个文件,如果爬虫找到这个文件,它就会根据这个文件的内容,来确定它访问权限的范围。

By 于湛 发布于 2013.03.13 1,847 次浏览

了解 robots.txt 文件写法》上有2条评论

  1. Pingback引用通告: 针对百度 SEO 常见问题整理 | WonderCSS

  2. Pingback引用通告: 亲和百度蜘蛛,分页多层次特色,织梦系统最好用的网站地图! – 白石头

发表评论

电子邮件地址不会被公开。 必填项已用*标注