繁體中文当前位置: 首页 > 图文教程 > 网站运营 > 网站优化 > SEO教程 robots.txt文件常见用途
- 网站优化
- 恢复被baidu封的网站的一些经验
- 如何能够获得最有效果的反向链接
- 网站稳步快速发展的两大绝技
- 付费广告活动:关键词宣传
- 网站在搜索引擎里的排名靠前的简单方法
- SEO与网页设计要有机的结合
- 加速新域名收录的一些心得
- 网站的反向链接的定义和原则
- 网站推广的几种有效的常用方法
- SEO:增加外部链接的方法和注意事项
- Baidu、Yahoo和google搜索引擎的搜索高级语法及应用
- 脱离搜索引擎的优化才叫优化
- 认识搜索引擎的危机和处理方法
- 企业网站常用的中英文单词对照表
- 4个搜索引擎网站搜索功能比拼
- 拒绝搜索引擎抓取页面:robots.txt
- SEO：关键词选取策略及具体方法
- 简单总结Baidu对网站排名的规则
- SEO系列教程：全面理解影响PR值的因素
- SEO系列教程：域名和主机对SEO的影响
网站优化 中的 SEO教程 robots.txt文件常见用途
出处:互联网 整理: 软晨网（RuanChen.com） 发布: 2010-01-10 浏览: 49 ::
收藏到网摘: n/a
本文将为你介绍最常用的四种robots.txt文件格式。
1. 允许所有的搜索引擎访问网站的任何部分
User-agent: *
Disallow:
(或者也可以建一个空文件 "/robots.txt")
2. 禁止所有搜索引擎访问网站的任何部分
User-agent: *
Disallow: /
3. 禁止所有搜索引擎访问网站中所有的动态页面
User-agent: *
Disallow: /*?*
4. 禁止网站上的程序文件被搜索引擎蜘蛛索引，这样可以节省服务器资源。
一般网站中不需要蜘蛛抓取的文件有：后台管理文件、程序脚本、附件、数据库文件、编码文件、样式表文件、模板文件、导航图片和背景图片等等。
User-agent: *
Disallow: /admin/ 后台管理文件
Disallow: /require/ 程序文件
Disallow: /attachment/ 附件
Disallow: /images/ 图片
Disallow: /data/ 数据库文件
Disallow: /template/ 模板文件
Disallow: /css/ 样式表文件
Disallow: /lang/ 编码文件
Disallow: /script/ 脚本文件
注：每个网站的文件夹名字可能会不一样
评论 (0) All
