当前位置: 首页 > 图文教程 > 网站运营 > 网站优化 > SEO实例教程:robots.txt文件的作用

网站优化
走向首页之路:提升网页搜索引擎排名13法
百度收录之快速收录
锚文本(链接文本)合理布署
网站站长必读 关于搜索引擎排名的重要性
个人站长维护必读知识 网站排名基本原则
论策探讨SEO的真谛所在
SEO技术基础:企业网站做整站优化的技巧
一些概念 关于SEO技术与搜索引擎技术理论
SEO优化究竟为了什么 终极目标和实现目标
彭洪伟:浅析网站被降权的几种常见原因
精读百度给站长的建议与谷歌优化指南
链接建设的时间因素 让他们慢慢成熟变老
SEO常用的10个查询指令
针对新网站建设 提高搜索引擎优化12要点
网站优化价格与关键词优化竞争强度的关联
积极有效符合搜索引擎规则 SEO黄金5准则
SEO无非是外链和内链 新手迅速上手技巧
百度给站长的建议之明晰的导航和层次结构
SEO优化反向链接(Back-Links)的四大原则
预防9点破坏搜索引擎排名的致命常见错误

网站优化 中的 SEO实例教程:robots.txt文件的作用


出处:互联网   整理: 软晨网(RuanChen.com)   发布: 2010-01-03   浏览: 268 ::
收藏到网摘: n/a

robots.txt file

引用一点百度百科:

robots.txt是搜索引擎中访问网站的时候要查看的第一个文件。Robots.txt文件告诉蜘蛛程序在服务器上什么文件是可以被查看的。
当一个搜索蜘蛛访问一个站点时,它会首先检查该站点根目录下是否存在robots.txt,如果存在,搜索机器人就会按照该文件中的内容来确定访问的范围;如果该文件不存在,所有的搜索蜘蛛将能够访问网站上所有没有被口令保护的页面。
robots.txt必须放置在一个站点的根目录下,而且文件名必须全部小写。