robots.txt是搜索引擎中访问网站的时候要查看的第一个文件。robots.txt文件告诉蜘蛛程序在服务器上什么文件是可以被查看的。关于Robots的详细介绍，前面我在《robots.txt文件怎么写》里面进行了非常详细的阐述，这里就不多说了。

Robots可以帮助你调整搜索引擎可以访问的页面，通俗的说就是作一个规定，告诉搜索引擎什么地方可以去什么地方不可以去。

Robots的写法：

User-agent: *

Disallow: /plus/ad_js.php

Disallow: /plus/car.php

User-agent: * 这里的*代表的所有的搜索引擎种类，*是一个通配符

Disallow: /admin/ 这里定义是禁止爬寻admin目录下面的目录

Disallow: /A 是屏蔽A目录下的所有文件，包括文件和子目录，还屏蔽/A*.*的文件Disallow: /cgi-bin/*.htm禁止访问/cgi-bin/目录下的所有以”.htm”为后缀的URL(包含子目录)。

Disallow: /*?* 禁止访问网站中所有的动态页面

Disallow: /.jpg$ 禁止抓取网页所有的.jpg格式的图片

Disallow:/ab/adc.html 禁止爬取ab文件夹下面的adc.html文件。

Allow: /cgi-bin/这里定义是允许爬寻cgi-bin目录下面的目录

Allow: /tmp这里定义是允许爬寻tmp的整个目录

Allow: /.htm$ 仅允许访问以”.htm”为后缀的URL。

Allow: /.gif$ 允许抓取网页和gif格式图片

以上这些内容就是对Robots中各系数代表什么进行的相关介绍，不知道大家是否看懂了，如果还没有看懂也没有关系，只要大家了解了每一个字符代表什么意思，然后根据这些内容依葫芦画瓢就可以制作出来了。但是大家一定要注意了，如果设置错了，那么就会影响搜索引擎的抓取，大家一定要谨慎操作。

交流群：172094262 验证;文档共享遨游