Robots.txt指南
当搜索引擎访问一个网站时，它首先会检查该网站的根域下是否有一个叫做robots.txt的纯文本文件。Robots.txt文件用于限定搜索引擎对其网站的访问范围，即告诉搜索引擎网站中哪些文件是允许它进行检索(下载)的。这就是大家在网络上常看到的“拒绝Robots访问标准”(Robots Exclusion Standard)。下面我们简称RES。 Robots.txt文件的格式：Robots.txt文件的格式比较特殊，它由记录组成。这些记录通过空行分开。其中每条记录均由两个域组成：
$ @1 `/ k4 v& Q* S p1 T( Y$ V7 T2 o团购网站系统,团购网程序 1) 一个User-Agent(用户代理)字符串行；
6 @2 P; d' k! I9 L" Xbbs.163k.com 2) 若干Disallow字符串行。
! w' P' i+ _. `5 N为互联网事业发展提供源动力！ 记录格式为：<Field> ":" <value>
4 N. _" E5 B5 b1 I5 i 下面我们分别对这两个域做进一步说明。
; e$ _# }# X+ S团购网站系统,团购网程序User-agent(用户代理)：
1 ^( m0 l9 i. M9 M! @1 A# r( h为互联网事业发展提供源动力！ User-agent行(用户代理行) 用于指定搜索引擎robot的名字，以Google的检索程序Googlebot为例，有：User-agent: Googlebot bbs.163k.com# y6 M; U) {4 E) X
一个robots.txt中至少要有一条User-agent记录。如果有多条User-agent记录，则说明有多个robot会受到RES标准的限制。当然了，如果要指定所有的robot，只需用一个通配符"*"就搞定了，即：User-agent: *
8 S1 w3 I+ J m, m/ V- lbbs.163k.comDisallow(拒绝访问声明)： bbs.163k.com1 t# u2 |8 P- A0 H
在Robots.txt文件中，每条记录的第二个域是Disallow:指令行。这些Disallow行声明了该网站中不希望被访问的文件和(或)目录。例如"Disallow: email.htm"对文件的访问进行了声明，禁止Spiders下载网站上的email.htm文件。而"Disallow: /cgi-bin/"则对cgi-bin目录的访问进行了声明，拒绝Spiders进入该目录及其子目录。Disallow声明行还具有通配符功能。例如上例中"Disallow: /cgi-bin/"声明了拒绝搜索引擎对cgi-bin目录及其子目录的访问，而"Disallow:/bob"则拒绝搜索引擎对/bob.html和/bob/indes.html的访问(即无论是名为bob的文件还是名为bob的目录下的文件都不允许搜索引擎访问)。Disallow记录如果留空，则说明该网站的所有部分都向搜索引擎开放。
% E7 g$ S* }, L9 J7 Z2 K# _+ r163K网站系统官方论坛bbs.163k.com* J/ E" J( T# o1 p5 m; z7 p
空格 & 注释
5 U/ U' o$ c9 ~ ^0 @ 在robots.txt文件中，凡以"#"开头的行，均被视为注解内容，这和UNIX中的惯例是一样的。但大家需要注意两个问题：
( u4 S, b# }9 T. ?% [7 q163K网站系统官方论坛 1) RES标准允许将注解内容放在指示行的末尾，但这种格式并不是所有的Spiders都能够支持。譬如，并不是所有的Spiders都能够正确理解"Disallow: bob #comment"这样一条指令。有的Spiders就会误解为Disallow的是"bob#comment"。最好的办法是使注解自成一行。 为互联网事业发展提供源动力！1 z% n# P" v- j* P
2) RES标准允许在一个指令行的开头存在空格，象"Disallow: bob #comment"，但我们也并不建议大家这么做。 团购网站系统,团购网程序( y% D( p. _) G7 l$ }2 z3 x5 G2 W
Robots.txt文件的创建：
: ?& {. ^1 Y* S( D+ |163K网站系统官方论坛 需要注意的是，应当在UNIX命令行终端模式下创建Robots.txt纯文本文件。好的文本编辑器一般都能够提供UNIX模式功能，或者你的FTP客户端软件也“应该”能够替你转换过来。如果你试图用一个没有提供文本编辑模式的HTML编辑器来生成你的robots.txt纯文本文件，那你可就是瞎子打蚊子——白费力气了。 团购网站系统,团购网程序/ P- a% \0 w. e u/ x
对RES标准的扩展： 团购网站系统,团购网程序& |9 j c Z6 V4 j- ], k+ \) c1 Q2 B
尽管已经提出了一些扩展标准，如Allow行或Robot版本控制(例如应该忽略大小写和版本号)，但尚未得到RES工作组的正式批准认可。
$ ~# C" y1 w) t7 R( V& D& @团购网站系统,团购网程序附录I. Robots.txt用法举例： 团购网站系统,团购网程序: g. i8 P( y. X. Y
使用通配符"*"，可设置对所有robot的访问权限。 团购网站系统,团购网程序# i# D9 t" _/ S: F8 E9 X* N2 [
User-agent: *
k6 d3 y; Q3 S163k团购网站系统官方服务论坛 Disallow:
3 Q: o! z4 v+ a [9 d5 f为互联网事业发展提供源动力！ 表明：允许所有搜索引擎访问网站下的所有内容。 为互联网事业发展提供源动力！6 U/ s: e( u. e9 O7 q# ~) w# } O# K
User-agent: * 163K网站系统官方论坛8 c# C& U" ^9 r3 \
Disallow: /
3 B5 p9 a" M, e& e' V2 q9 x5 x; s3 Xbbs.163k.com 表明：禁止所有搜索引擎对网站下所有网页的访问。 163K网站系统官方论坛) {% r# K" M/ ]* K( X6 W( [, ^# O
User-agent: * bbs.163k.com, E% l' [# y' B' U1 t
Disallow: /cgi-bin/Disallow: /images/ 2 T! z2 l w$ C, m
表明：禁止所有搜索引擎进入网站的cgi-bin和images目录及其下所有子目录。需要注意的是对每一个目录必须分开声明。
# L. H. D; m0 g5 F8 p4 j" c C User-agent: Roverdog
. { i# P3 K7 x: o Disallow: / bbs.163k.com9 [- t$ A9 Z& N
表明：禁止Roverdog访问网站上的任何文件。 0 k6 |& J$ O2 |& k4 U$ w' J
User-agent: Googlebot 163K网站系统官方论坛# X' X( p4 ^7 G, G/ L5 n) q
Disallow: cheese.htm
( l% U ]+ j" U为互联网事业发展提供源动力！ 表明：禁止Google的Googlebot访问其网站下的cheese.htm文件。 bbs.163k.com. v% E. p0 @$ c
上面介绍了一些简单的设置，对于比较复杂的设置，可参看一些大型站点如CNN或Looksmart的robots.txt文件(www.cnn.com/robots.txt, www.looksmart.com/robots.txt )
9 F4 M4 _% t# b7 b* N附录II. 相关robots.txt文章参考： ( y, j+ p: ~- o \" Z& m
1. Robots.txt常见问题解析
8 v' W7 Z) F3 W" `7 j& z# x" ^为互联网事业发展提供源动力！ 2. Robots Meta Tag的使用
/ `# V8 v2 s, X' J) F& W为互联网事业发展提供源动力！ 3. Robots.txt检测程序
