“Robots”经常被一些同行朋友称作“萝卜丝”，是搜索引擎“网络爬虫排除协议”。通过Robots协议我们可以告诉搜索引擎，网站哪些页面允许抓取，哪些不允许。

如果你想禁止爬虫抓取网站某些目录，却又不熟悉robots文件的编写，你可以通过爱站seo工具包的robots制作工具，简单设置即可生成robots.txt文件。

如图，我们可以通过简单的选择和设置，生成robots.txt，并放在网站根目录下面，即可告诉搜索引擎爬虫哪些哪些页面可以抓取，哪些页面不能够抓取。