当前位置: 首页 > 图文教程 > 网站运营 > 网站优化 > SEO实例教程:robots.txt文件的作用

网站优化
猜想一种做站思路让不懂SEO的人照样成功
八条隐患:影响你网站的搜索引擎排名!
网页设计对网站推广效果的影响
新站从0IP到上万IP流量的基本流程
Alexa新功能初探
Asp.Net程序员与SEO - Viewstate优化(二)
Asp.Net程序员与SEO – 自定义错误页面
Asp.Net程序员与SEO – 301转向
域名买卖与SEO 不同形式的域名变化与SEO
基础知识:网站地图对SEO优化的四个好处
搜索引擎是如何确定你的内容就是原创内容
如何让网站天天被百度更新 吸引蜘蛛三法
网站是不是百度只收录了首页 四步骤解决
搜索流量如此巨大 QQ类网站如何杀出重围
对于整个SEO 项目而言 分析工作无处不在
SEO关键词分析的4个步骤及四项基本原则
提高网站的SEO优化 15个小招数帮你大忙
seoer要学会模仿搜索引擎相关产品页面的设计
健康外部链接:外部链接获得速度和锚文字
秦剑:交换友情链接的一些注意事项

网站优化 中的 SEO实例教程:robots.txt文件的作用


出处:互联网   整理: 软晨网(RuanChen.com)   发布: 2010-01-03   浏览: 264 ::
收藏到网摘: n/a

robots.txt file

引用一点百度百科:

robots.txt是搜索引擎中访问网站的时候要查看的第一个文件。Robots.txt文件告诉蜘蛛程序在服务器上什么文件是可以被查看的。
当一个搜索蜘蛛访问一个站点时,它会首先检查该站点根目录下是否存在robots.txt,如果存在,搜索机器人就会按照该文件中的内容来确定访问的范围;如果该文件不存在,所有的搜索蜘蛛将能够访问网站上所有没有被口令保护的页面。
robots.txt必须放置在一个站点的根目录下,而且文件名必须全部小写。