在线生成Robots.txt

默认 -  所有:  
爬虫-延迟时间:
网站地图: (可以不填写)
     
主流搜索引擎: Google(谷歌)   googlebot
  Baidu(百度)   baiduspider
  Sogou(搜狗)   sogou spider
  YouDao(有道)   YodaoBot
  MSN Search   msnbot
  Yahoo   yahoo-slurp
  Ask/Teoma   teoma
  Cuil   twiceler
  GigaBlast   gigabot
  Scrub The Web   scrubby
  DMOZ Checker   robozilla
  Nutch   nutch
  Alexa/Wayback   ia_archiver
  Naver   naverbot, yeti
   
其他搜索引擎: Google Image   googlebot-image
  Google Mobile   googlebot-mobile
  Yahoo MM   yahoo-mmcrawler
  MSN PicSearch   psbot
  SingingFish   asterias
  Yahoo Blogs   yahoo-blogs/v3.9
   
限制目录 该路径是相对于根目录以 "/"结尾
 
 
 
 
 
 
 
 
 
 
   

现在，复制并粘贴这个文本到一个空白的文本文件，保存为“robots.txt”，然后上传你网站的根目录。请注意文件的权限设置，确保可以访问，一般默认设置就可以了。