东莞-网站建设|网络推广|SEO优化|整合营销|——东莞值得信赖的网络营销公司!
电话:400-8787-325,手机:139-2555-9795

大朗网站建设百度如何判断网页文章的重复度
发布时间:2016-07-25 09:19:39 点击次数:

  大朗网站建设百度如何判断网页文章的重复度,在这个科技高度发达的时代,百度已经成为人们能获取消息的主要途径。但如今的百度,到处充斥着一些重复的内容,对用户的访问造成很大的困扰。因此,百度需要对网页重复进行判断,对重复的网页,只选取一些高质量的我那工业,共用户浏览。然而,现有技术中一般是通过比较两个页面的内容和借点,来确认两个页面的相似度。 这种方法能够计算的比较准确,可时间复杂度太高,计算很费时间。通过对一个页面中的某些重要信息进行签名,然后比较两个页面的签名,来计算相似度,这种方式比较简单高效,计算速度比较快,比较适合百度这种海量信息的应用场景。
1,网站重复内容的判断 A,获取多个网页; B,分别提取网页的网页正文; C,从网页正文中提取一个或多个句子,并根据一个或多个句子计算网页正文句子签名; ) D,根据网页正文句子签名对多个网页进行聚类;  E,针对每一类下的网页,计算网页的附加签名; F,根据附加签名判断每一类下的网页是否重复。 通过上述方式,网页重复的判断系统及其判断方法通过包括网页正文句子签名在内的多维度签名有效且快速地判断网页是否重复。提取正文 A,对网页进行分块;  B,对分块后的网页进行块过滤,以获取包含网页正文的内容快; C,从内容块中提取网页正文。  H 正文分句 A,对网页正文进行分句; 在本步骤中,可利用分号,句号,感叹号等表示句子完结的标志符号来对网页正文进行分句。此外,还可以通过网页正文的视觉信息来对网页正文进行分句。  B,对分句后的网页正文进行过滤及转换; 在步骤中,首先过滤掉句子中的数字信息;版权信息以及其他对网页重复判断不起决定性作用的信息。随后,对句子进行转换,例如,进行全角/半角转换或者繁体/简体转换,以使得转换后的句子的格式统一。 C,从过滤及转换后的网页正文中提取最长的一个或多个句子; 在本步骤中,过滤及转换后的网页正文提取出最长的一个句子或者做场的预定数量连续句子的组合。例如,某个网页实例中,经过过滤及转换后的某段最长,远超其他句子,因此可选择该段为网页正文句子,或者选择最长的连续句子组合作为网页正文句子。
  对一个或多个句子进行hash签名运算,以获取网页正文句子签名。 simhash算法就是比较各网页的附加签名是否相同或相似来判断网页是否重复。具体来说,在比较利用simhash签名运算获得的网页正文签名时,比较网页正文签名的不同位数,不同位越少,表示网页重复的可能性越高,在比较其他的附加签名时,若附加签名相等,表示网页在该纬度上重复。
   更多详情登录:www.seosoo.net 热门搜索:东莞网络公司|黄江网络公司|常平网络公司|塘厦网络公司|大朗网络公司|寮步网络公司|东坑网络公司

东莞市智点未来网络科技有限公司 版权所有2015-2020
电话:400-8787-325
咨询:0769-89783105
地址:东莞市樟木头南城大道31号永兴写字楼803室
备案号:粤ICP备15055678号
免费咨询:400-8787-325    24小时电话:139-2555-9795   
东莞市智点网络科技(www.seosoo.net)