当前位置: 首页 > 图文教程 > 网站运营 > 网站优化 > SEO实例教程:robots.txt文件的作用

网站优化
搜索优化注意的网站优化九不宜
搜索引擎的原理就是你搜索信息的习惯
王通:内容因素对SEO的影响分析
大道无形 没有SEO才是真的SEO
SEO老大哥:SEM是继SEO发展的又一个产物
谈网站URL的规范对SEO的意义
张何:搜索引擎优化提升中小企业网站竞争力
就新站百度收录问题谈下自己的心得
从百度指数看百度首页排名网站流量效果
SEO未来的路有多远
一周做一个有权重连接,增加网站权重牵着百度爬
让百度蜘蛛变成你的新娘 让搜索引擎更喜欢你的网站
SEO静态真的还有用吗
使用马克斯电影程序如何做优化
外部链接是什么意思
如何提高内页SEO优化的方法
费明红:XHTML语义在SEO优化中的应用
从查询框中诊断搜索引擎问题
企业搜索引擎营销 中小企业的营销策略实施
网站优化(seo)是一种有承诺的苦力行为

网站优化 中的 SEO实例教程:robots.txt文件的作用


出处:互联网   整理: 软晨网(RuanChen.com)   发布: 2010-01-03   浏览: 215 ::
收藏到网摘: n/a

robots.txt file

引用一点百度百科:

robots.txt是搜索引擎中访问网站的时候要查看的第一个文件。Robots.txt文件告诉蜘蛛程序在服务器上什么文件是可以被查看的。
当一个搜索蜘蛛访问一个站点时,它会首先检查该站点根目录下是否存在robots.txt,如果存在,搜索机器人就会按照该文件中的内容来确定访问的范围;如果该文件不存在,所有的搜索蜘蛛将能够访问网站上所有没有被口令保护的页面。
robots.txt必须放置在一个站点的根目录下,而且文件名必须全部小写。