首页 > 经验 > 关键词  > 百度最新资讯  > 正文

解析各大搜索引擎对robots.txt文件的反应

2010-08-09 15:00 · 稿源:www.seocnz.com

《解析各大搜索引擎对robots.txt文件的反应》文章已经归档,站长之家不再展示相关内容,下文是站长之家的自动化写作机器人,通过算法提取的文章重点内容。这只AI还很年轻,欢迎联系我们帮它成长:

一直都没有看到个具体的robots.txt文件在各个搜索引擎的执行情况如何,最近,我特意针对robots.txt文件对于各大搜索引擎做了个实验,看他们这一自己说是明文遵守的协议,落实到实际中去执行又是个什么状况...

首先这个网站在百度,GOOGLE,yahoo,搜狗,搜搜,必应,有道收录都正常,然后我直接在robots.txt文件中设置禁止所有搜索引擎蜘蛛访问和爬行收录本站...

接着说其他搜索引擎对robots.txt文件的反应,GOOGLE只用了4天时间,删除了整个域名的网页收录,随后是腾讯SOSO过了6天也执行删除了整个域名的网页收录,接着是必应、搜狗7天时间删除了域名收录...

......

本文由站长之家用户“www.seocnz.com”投稿,本平台仅提供信息索引服务。由于内容发布时间超过平台更新维护时间,为了保证文章信息的及时性,内容观点的准确性,平台将不提供完整的内容展现,本页面内容仅为平台搜索索引使用。需阅读完整内容的用户,请联系作者获取原文。

举报

  • 相关推荐
  • 大家在看

今日大家都在搜的词:

热文

  • 3 天
  • 7天