当前位置: 首页 > 图文教程 > 网站运营 > 网站优化 > SEO实例教程:robots.txt文件的作用

网站优化
主流论坛程序相同的搜索引擎优化注意要点
Web标准有利于搜索引擎优化?
把访问者留在网站的核心 SEO观念要正确
做好网站链接建设 做好自然链接人工链接
比较快速地提高网站PR值的十个有效办法
百度图片搜索优化技巧 让网站流量再翻番
对症下药 如何让自己网站不被百度潜规则
搜索引擎如何来评估网站链接的
优化热门关键字的5点心得体会
提高文章搜索引擎优化质量的十八个小技巧
谷歌官方《搜索引擎优化指南》网站内容篇
谷歌官方《搜索引擎优化指南》链接文本篇
谷歌官方《搜索引擎优化指南》标题标签篇
谷歌官方《搜索引擎优化指南》网页图片篇
SEO关键字排名VS用户体验谁更重要?
网站优化的几个要点
影响网页在谷歌搜索引擎上权重的三个因素
针对谷歌搜索引擎 选取关键词的十个技巧
从搜索引擎优化角度 分析月光博客的成功
快速获取百度排名之偷梁换柱与抛砖引玉篇

网站优化 中的 SEO实例教程:robots.txt文件的作用


出处:互联网   整理: 软晨网(RuanChen.com)   发布: 2010-01-03   浏览: 207 ::
收藏到网摘: n/a

robots.txt file

引用一点百度百科:

robots.txt是搜索引擎中访问网站的时候要查看的第一个文件。Robots.txt文件告诉蜘蛛程序在服务器上什么文件是可以被查看的。
当一个搜索蜘蛛访问一个站点时,它会首先检查该站点根目录下是否存在robots.txt,如果存在,搜索机器人就会按照该文件中的内容来确定访问的范围;如果该文件不存在,所有的搜索蜘蛛将能够访问网站上所有没有被口令保护的页面。
robots.txt必须放置在一个站点的根目录下,而且文件名必须全部小写。