当前位置: 首页 > 图文教程 > 网站运营 > 网站优化 > SEO实例教程:robots.txt文件的作用

网站优化
快速被搜索引擎青睐 不仅是提供好的内容
针对全球目标客户 优化在不同国家的排名
门户网站常用的SEO策略及操作规范
论策为您解析SEO最新公式
论策教您搜索引擎优化流程
个人站长必须了解的网站优化及格分数线
如何判断高质量友情链接以及交换链接心得
SEO经验谈:结合自身特点 软文就不难写
传播品牌建立口碑效应 SEO服务常见问题
网站导航如何SEO优化?
SEO基础 搜索引擎优化排名做好10个要点
网站降权征兆深层次原因及经典的解决办法
做谷歌搜索引擎推广 选择好关键词10要点
网站在搜索引擎排名下降 9个方面一一对比
搜索引擎中 link和domain查询指令的区别
Google专利:怎样鉴别和处理垃圾链接
10个方法教你如何解决百度不收录首页问题
SEO必读:搜索引擎优化中7个黄金规则
不能忽视 搜索引擎优化中SEO的17条军规
SEO帮助报纸提升在线读者数量

网站优化 中的 SEO实例教程:robots.txt文件的作用


出处:互联网   整理: 软晨网(RuanChen.com)   发布: 2010-01-03   浏览: 173 ::
收藏到网摘: n/a

robots.txt file

引用一点百度百科:

robots.txt是搜索引擎中访问网站的时候要查看的第一个文件。Robots.txt文件告诉蜘蛛程序在服务器上什么文件是可以被查看的。
当一个搜索蜘蛛访问一个站点时,它会首先检查该站点根目录下是否存在robots.txt,如果存在,搜索机器人就会按照该文件中的内容来确定访问的范围;如果该文件不存在,所有的搜索蜘蛛将能够访问网站上所有没有被口令保护的页面。
robots.txt必须放置在一个站点的根目录下,而且文件名必须全部小写。