繁體中文当前位置: 首页 > 图文教程 > 网站运营 > 网站优化 > 有道关于robots.txt的解释
- 网站优化
- 对刚刚接触搜索引擎优化站长们的衷心建议
- 谷歌官方优化建议：动态网址与静态网址
- 谷歌官方《搜索引擎优化指南》网络蜘蛛篇
- 影响网站权重的七个因素
- 分述百度和谷歌对搜索引擎作弊的不同判定
- 新建网站进行搜索引擎优化的六个基本步骤
- 禁忌：网站优化中绝对不能够做的九件事情
- 57条让你老妈看完都能成为SEO高手的技巧
- 中文网站管理员讲解 关于网页链接的知识
- 放弃SEO是理性的胜利 SEO细节决定成败
- 百度与谷歌如何判断网站文章是否原创试析
- 谷歌《搜索引擎优化指南》为链接添加nofollow属性
- 从两个案例分析 搜索优化中IP地址很重要
- 释疑链接的四个误区 谈外连对网站的影响
- 站长需要知道的55条搜索引擎优化绝佳技巧
- 内容更新频率与搜索引擎关系 让它熟悉你
- 新站的原创之路
- 纵搜索引擎算法改变 核心思路永远不会变
- 谷歌官方《搜索引擎优化指南》网站推广篇
- 谷歌官方《搜索引擎优化指南》网站管理篇
网站优化 中的 有道关于robots.txt的解释
出处:互联网 整理: 软晨网（RuanChen.com） 发布: 2009-09-26 浏览: 133 ::
收藏到网摘: n/a
怎么写robots.txt文件？
robots.txt是个很简单的文本文件，您只要标明“谁不能访问哪些链接”即可。
在文件的第一行写：
User-Agent: YodaoBot
这就告诉了爬虫下面的描述是针对名叫YodaoBot的爬虫。您还可以写：
User-Agent: *
这就意味着向所有的爬虫开放。需要注意的是一个robots.txt文件里只能有一个"User-Agent: *"。
接下来是不希望被访问的链接前缀。例如：
Disallow: /private
这就告诉爬虫不要抓取以"/private"开头的所有链接。包括/private.html，/private/some.html，/private/some/haha.html。如果您写成：
Disallow: /
则表明整个站点都不希望被访问。您也可以分多行来指定不希望被抓取的链接前缀，例如：
Disallow: /tmp
Disallow: /disallow
那么所有以"/tmp"和"/disallow"开头的链接都不会被访问了。
最后形成的robots.txt文件如下：
User-Agent: YodaoBot
Disallow: /tmp
Disallow: /private
请注意，如果您的robots.txt文件里有中文等非英语字符，请确定该文件是由UTF-8编码编写。
评论 (0) All
