华企商城欢迎您! 登录 注册 总站[切换城市]
中国优秀的企业全生态服务平台 我的购物车0

咨询热线: 010-85755626

售后服务: 010-85779318

首页 >华企学院 >优化教程 > SEO优化:搜索引擎的Robots规则

SEO优化:搜索引擎的Robots规则

作者:华企商城 阅读次数:133次 发布时间:2016-05-31 10:41:18评论:0

  robots.txt是一种存放于网站根目录下的文本文件,用于告诉搜索引擎的爬虫(spider),此网站中的哪些内容是不应被搜索引擎的索引,哪些是可以被索引。通常认为,robots.txt文件用来搜索引擎对目标网页的抓取。

  robots.txt协议并不是一个规范,而只是约定俗成的,通常搜索引擎会识别这个文件,但也有一些特殊情况。

  对于Google来说,使用robots也未必能阻止Google将网址编入索引,如果有其他网站链接到该网页的话,Google依然有可能会对其进行索引。按照Google的说法,要想彻底阻止网页的内容在Google网页索引中(即使有其他网站链接到该网页)出现,需要使用noindex元标记或x-robots-tag。例如将下面的一行加入到网页的header部分。

  <meta name="googlebot" content="noindex">

  如果Google看到某一页上有noindex的元标记,就会将此页从Google的搜索结果中完全丢弃,而不管是否还有其他页链接到此页。

  对于百度来说,情况和Google类似,如果有其他网站链接目标网页,也有可能会被百度收录,从百度的说明页面上看,百度并不支持像Google那样通过noindex完全将网页从索引上删除,只支持使用noarchive元标记来禁止百度显示网页快照。具体的语句如下。

  <meta name="Baiduspider" content="noarchive">

  上面这个标记只是禁止百度显示该网页的快照,百度会继续为网页建索引,并在搜索结果中显示网页摘要。

  例如,淘宝网目前就通过robots.txt来屏蔽百度爬虫,但百度依旧收录了淘宝网的内容,百度搜索“淘宝网”,个结果也是淘宝网首页地址,只是该页面没有网页快照,因此看来,网站只能禁止百度的快照,而无法禁止百度为网页建索引。

华企商城更多商品介绍:百度搜藏批量添加     微博达人转发推广    个人博客网站源码

文章转载请注明出处:http://www.netshop168.com/article-5352.html

有好的文章希望华企帮您分享推广,猛戳这里我要投稿

【版权声明】本文内容由互联网用户自发贡献,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎发送邮件至 1324939756@qq.com 举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。

我来说两句 0条评论

最新评论

栏目最新文章

找到您想要的文章

快速发布任务