基于用户浏览记录的网页rank思路

2012-08-31

Google的pagerank就不多介绍了,一个能衡量网页重要程度的算法,本质上是网页相互投票的结果,基于这个特性,我们可以通过使用sitemap让搜索引擎尽可能浏览到多的网站内容,也可以通过多做外链来提高网站的PR值,达到SEO的目的。

市场上大多数搜索引擎都在使用pagerank类似的方法,且为了保证公正性,都采用纯机器运行的方式,通过网页爬虫来遍历网站,这就出现了一些有趣的问题:

  1. 一个网页的内容是很棒的,但是由于外链太少,爬虫在设定的深度阈值下可能无法爬到它,成为了少人问津的“暗内容”
  2. 部分网站因为PR值很高,即使转载的内容或是价值不高的内容,也可能有很好的检索排名,即使技术领先的搜索引擎采用语义网络的方法识别优质内容,效果依然不够好

为了规避以上问题,引入用户数据来评判网页内容的重要性及质量,是一个可研究方向,怎么做呢?

假设:

浏览行为及时长是对网页质量的最好评判,相当于用户标注,在大规模数据的情况下,效果应优于机器

原理:

  1. 通过浏览器或其他客户端软件,最好的防火墙或其他安全软件,获取用户浏览日志,上传给搜索引擎的爬虫数据库,即是得到用户浏览数据
  2. 爬虫匹配已有索引库,找到未索引内容,爬之
  3. 利用用户日志给网页投票,浏览时间越长权重越高,计算出网页的rank

缺陷:

  1. 依赖客户端
  2. 有用户隐私问题

规避:

  1. 提出云杀毒、云防御、云安全,让用户同意上传浏览记录
  2. 偷偷上传,将浏览记录(其他文件也可以)加密并分拆上传,在服务器端组合还原

好了,思路说完了,来给它起个响亮高深名字:peoplerank

最后,我这是很严肃地说技术

<< 回首页
Power by 陆++