Robots文件是网站和蜘蛛程序之间的“君子协议”——robots文件不仅仅可以节省网站的资源,还可以帮助蜘蛛更加有效的抓取网,从而提高排名。 1:只允许谷歌bot 如果要拦截除谷歌bot之外的所有爬虫: User-agent:* disallow:/ Uer-agent:允许的蜘蛛名 Disallow:
......
本文由站长之家合作伙伴自媒体作者“mygaofu.com”授权发布于站长之家平台,本平台仅提供信息索引服务。由于内容发布时间超过平台更新维护时间,为了保证文章信息的及时性,内容观点的准确性,平台将不提供完全的内容展现,本页面内容仅为平台搜索索引使用。需阅读完整内容的用户,请查看原文,获取内容详情。
(举报)