繁體中文当前位置: 首页 > 图文教程 > 网站运营 > 网站优化 > SEO实例教程:robots.txt文件的作用
- 网站优化
- 如何给网站配置个性化的404错误页
- Google:WAP网站被搜索和抓取的一些小技巧
- SEO教程:看着四张图分析搜索引擎优化
- Drupal网站进行SEO时的错误和解决办法
- SEO教程:标题标记H和强调标记strong
- SEO经验分享:搜索引擎优化简明教程
- SEO教程:用语义化的HTML制作网页
- SEO教程:设计网站标题title注意的三点内容
- seo案例:设置B2B行业门户网站信息标题
- 更新网站内容时注意的SEO细节内容
- 网站专题制作过程中SEO优化技巧
- SEO教程:更新网站内容时注意的链接策略
- SEO优化教程:准确的进行关键词的选取
- GOOGLE官方:发垃圾帖子或回复可能会降低网站排名
- 用A/B测试来判断网站头条新闻的标题写法
- 百度凤巢推出后SEOer应该学习的
- 网站被搜索引擎K掉后的淡定思考
- Google Analytics更新更灵活更智能
- 做SEO不用被关键词搜索量和相关关键词数量影响
- 分析网站可用性:面包屑导航的设计
网站优化 中的 SEO实例教程:robots.txt文件的作用
出处:互联网 整理: 软晨网（RuanChen.com） 发布: 2010-01-03 浏览: 128 ::
收藏到网摘: n/a
引用一点百度百科：
robots.txt是搜索引擎中访问网站的时候要查看的第一个文件。Robots.txt文件告诉蜘蛛程序在服务器上什么文件是可以被查看的。
当一个搜索蜘蛛访问一个站点时，它会首先检查该站点根目录下是否存在robots.txt，如果存在，搜索机器人就会按照该文件中的内容来确定访问的范围；如果该文件不存在，所有的搜索蜘蛛将能够访问网站上所有没有被口令保护的页面。
robots.txt必须放置在一个站点的根目录下，而且文件名必须全部小写。
评论 (0) All
