robots检测工具功能介绍

本工具可以检测指定域名的robots.txt文件配置信息，可以方便快速检测robots文件每一行的含义，检测配置是否正确。

使用步骤：将需要检测robots的地址输入检测框内，点击“查询”开始检测，系统会自动检测并将检测结果显示在robots检测结果框内。

Robots.txt 是存放在站点根目录下的一个纯文本文件。robots文件作用很强大，配置却很简单。它可以指定搜索引擎蜘蛛只抓取指定的内容，或禁止搜索引擎蜘蛛抓取网站的部分或全部内容。