华企商城欢迎您! 登录 注册 总站[切换城市]
中国优秀的企业全生态服务平台 我的购物车0

咨询热线: 010-85755626

售后服务: 010-85779318

首页 >华企学院 >优化教程 > 网站重复内容的判断

网站重复内容的判断

作者:华企商城 阅读次数:181次 发布时间:2016-10-12 09:16:31评论:0

  网站重复内容的判断

  A,获取多个网页;

  B,分别提取网页的网页正文;

  C,从网页正文中提取一个或多个句子,并根据一个或多个句子计算网页正文句子签名;

  D,根据网页正文句子签名对多个网页进行聚类;

  E,针对每一类下的网页,计算网页的附加签名;

  F,根据附加签名判断每一类下的网页是否重复。

  通过上述方式,网页重复的判断系统及其判断方法通过包括网页正文句子签名在内的多维度签名有效且快速地判断网页是否重复。

  

广告图


  网站页面基本架构

  提取正文

  A,对网页进行分块;

  B,对分块后的网页进行块过滤,以获取包含网页正文的内容快;

  C,从内容块中提取网页正文。

  正文分句

  A,对网页正文进行分句;

  在本步骤中,可利用分号,句号,感叹号等表示句子完结的标志符号来对网页正文进行分句。此外,还可以通过网页正文的视觉信息来对网页正文进行分句。

  B,对分句后的网页正文进行过滤及转换;

  在步骤中,首先过滤掉句子中的数字信息;版权信息以及其他对网页重复判断不起决定性作用的信息。随后,对句子进行转换,例如,进行全角/半角转换或者繁体/简体转换,以使得转换后的句子的格式统一。

  C,从过滤及转换后的网页正文中提取长的一个或多个句子;

  在本步骤中,过滤及转换后的网页正文提取出长的一个句子或者做场的预定数量连续句子的组合。例如,某个网页实例中,经过过滤及转换后的某段长,远超其他句子,因此可选择该段为网页正文句子,或者选择长的连续句子组合作为网页正文句子。

  D,对一个或多个句子进行hash签名运算,以获取网页正文句子签名。

  simhash算法就是比较各网页的附加签名是否相同或相似来判断网页是否重复。具体来说,在比较利用simhash签名运算获得的网页正文签名时,比较网页正文签名的不同位数,不同位越少,表示网页重复的可能性越高,在比较其他的附加签名时,若附加签名相等,表示网页在该纬度上重复。

  总结:

  1、两个网页的真实标题签名相同。

  2、两个我那工业的网页内容签名相同。

  3、两个网页的网页正文签名的不同位数小于6.。

  4、两个网页的网页位置签名相同,并且url文件名签名相同。

  5、评论块签名、资源签名、标签标题签名、摘要签名、url文件名签名中有三个签名相同。

  附加信息整站判断重复标准:

  通过两两页面比较,可以得到真重复url的集合。一般来说,如果这个真重复url集合中的网页的数量/整个网页集中网页的数量大于30%,则认为整个网页集都是真重复,否则就是假重复。




华企商城更多商品介绍:B2B网站优化化助手     微信微商猎手服务    美食栏目广告投放方案

文章转载请注明出处:http://www.netshop168.com/article-10321.html

有好的文章希望华企帮您分享推广,猛戳这里我要投稿

我来说两句 0条评论

最新评论

推荐阅读

找到您想要的文章

快速发布任务