当前位置: 首页 > 图文教程 > 网站运营 > 网站优化 > SEO实例教程:robots.txt文件的作用

网站优化
漫谈搜索引擎营销 如何运用好搜索引擎平台
学而时习之 非常简单的20套SEO问答知识
URL搜索引擎优化 绝对路径和相对路径释疑
子域名和子目录对比分析 谷歌更喜欢子目录
让SEO工作更有效 谈五个不同外部链接形式
泡、调、煎,看SEO的烹调艺术
谷歌搜索引擎对Flash 文件的索引问题探讨
“长尾”-未来发展方向
简单很实用 提高搜索引擎排名注意的六点
论点:网站不需要搜索引擎优化的七个理由
外文翻译:HTML的语义化和搜索引擎的优化
网站重建 如何不失去现有的搜索引擎排名
从网站内部结构着手 谈音乐网站怎么做SEO
Nofllow标签做链接的利弊,你知道吗?
雅虎流量不能忽视 如何取得雅虎的好排名
博客网站优化的60个技巧
依靠网站外部链接 提升网站流量十个方法
简单实用:博客网站进行优化的二十个技巧
网站被搜索封杀或者降低排名几个解决办法
SEO之域名和主机的影响

网站优化 中的 SEO实例教程:robots.txt文件的作用


出处:互联网   整理: 软晨网(RuanChen.com)   发布: 2010-01-03   浏览: 176 ::
收藏到网摘: n/a

robots.txt file

引用一点百度百科:

robots.txt是搜索引擎中访问网站的时候要查看的第一个文件。Robots.txt文件告诉蜘蛛程序在服务器上什么文件是可以被查看的。
当一个搜索蜘蛛访问一个站点时,它会首先检查该站点根目录下是否存在robots.txt,如果存在,搜索机器人就会按照该文件中的内容来确定访问的范围;如果该文件不存在,所有的搜索蜘蛛将能够访问网站上所有没有被口令保护的页面。
robots.txt必须放置在一个站点的根目录下,而且文件名必须全部小写。