当前位置: 首页 > 图文教程 > 网站运营 > 网站优化 > SEO实例教程:robots.txt文件的作用

网站优化
刘大川:16个提高关键词排名的方法
怎样优化不同国家排名 优化英文网站
搜索引擎优先收录 评价网页重要性九因素
优化策划营销思维:搜索引擎优化服务过程
让搜索引擎认得你 SEO元标记优化的认知
百度“凤巢”来袭,近期算法大规模调整
SEO讲座:资深人士zac讲网编SEO
陈设世家:怎么才能真正的提高谷歌PR值
Asp.Net程序员与SEO - 关注Sitemap
深度解析 搜索引擎优化中的七个潜规则
搜索引擎优化的几点动态 也许你没有注意
新手站长慎用:SEO优化七条秘籍!
搜索引擎真的遵守robots.txt协议吗?
如何在稳定排名的前提下对网站进行改版
稳定搜索引擎排名注意的问题 注意5个方面
时刻提防:一些关于搜索引擎优化方面错误
阳帆:友情链接的四项基本原则
网站改版网站优化方案 架构关键词和图片
Asp.Net程序员与SEO - .Net基于SEO友好数据分页
一句话SEO优化:网站排名的49个影响因素

网站优化 中的 SEO实例教程:robots.txt文件的作用


出处:互联网   整理: 软晨网(RuanChen.com)   发布: 2010-01-03   浏览: 169 ::
收藏到网摘: n/a

robots.txt file

引用一点百度百科:

robots.txt是搜索引擎中访问网站的时候要查看的第一个文件。Robots.txt文件告诉蜘蛛程序在服务器上什么文件是可以被查看的。
当一个搜索蜘蛛访问一个站点时,它会首先检查该站点根目录下是否存在robots.txt,如果存在,搜索机器人就会按照该文件中的内容来确定访问的范围;如果该文件不存在,所有的搜索蜘蛛将能够访问网站上所有没有被口令保护的页面。
robots.txt必须放置在一个站点的根目录下,而且文件名必须全部小写。