当前位置: 首页 > 图文教程 > 网站运营 > 网站优化 > 网站地图链接放在robots.txt文件里的用处

网站优化
三大搜索引擎联手推出新标准应对复制网页
优化实战:对FLASH型网站进行优化的心得
流量分析:决定SEO效果的四大主要原因
703公交车上的SEO启发
提高网站质量 分析四种网站交换链接对象
2008年RSS订阅最多的30个顶尖SEO博客
他上之石可以取玉 分享大型网站SEO策略
从用户体验和SEO两个角度谈谈网站的描述
SEO单个网页的最优化操作
获取关键词大流量 做好SEO方法中五大要点
简简单单就十个方面 做好WordPress的SEO
警惕 六种情况导致网站难以被搜索引擎收录
导致网站的搜索引擎优化失败的七个大方面
完善三个方面让谷歌对网站的索引变得更快
关键词选择攻略 处理好冷热门及专业关系
案例分析 通过新浪女性页面看关键词堆砌
与网站有些不同 博客流量来源的10个途径
又一强悍外链平台搜狐博客回归搜索
网站进行优化后也许并不需要进行静态处理
网址规范化最新解决方法 3大搜索引擎支持

网站优化 中的 网站地图链接放在robots.txt文件里的用处


出处:互联网   整理: 软晨网(RuanChen.com)   发布: 2009-10-17   浏览: 113 ::
收藏到网摘: n/a

各大搜索引擎都发布了对网站地图的新的支持方式,就是在robots.txt文件里直接包括sitemap文件的链接。目前对此表示支持的搜索引擎公司有Google, Yahoo,而中文搜索引擎公司,显然不在这个圈子内。

这样做的好处就是,站长不用到每个搜索引擎的站长工具或者相似的站长部分,去提交自己的sitemap文件,搜索引擎的蜘蛛自己就会抓取robots.txt文件,读取其中的sitemap路径,接着抓取其中相链接的网页。

这里基于一个假设,robots.txt已然是一个标准,所有的网站至少都有一个,而sitemap还正在建立标准中,这样的做法,可以让站长减轻工作,而且如果他们不需要更为详细的索引和搜索的资料的话,那么就只需要包括sitemap到robots.txt就可以了。

让我们现在就开始动手,修改robots.txt文件。

#
# robots.txt for xxx.com
# Version 2009.04.04
#
User-agent: *
Disallow: /function/
Disallow: /FCKeditor/
Disallow: /CACHE/
Disallow: /SCRIPT/
Disallow: /ADMIN/
Disallow: /wap.asp
Disallow: /cmd.asp
Sitemap: http://www.xxx.com/sitemap.xml