云计算环境下基于代表点增量层次密度聚类的微博事件检测及跟踪

摘要

为从微博服务平台产生的大量实时信息中抽取新闻事件,提出了一套完整的云计算环境下的微博事件检测跟踪算法.首先采用新的基于微博转发数和评论数的权值计算方法,将微博文本表示成向量空间模型;再利用基于代表点的增量层次密度聚类(RIHDBSCAN)算法抽取关健词，最终实现新闻事件的检浏和跟踪。针对单一节点无法快速高效地处理海量微博数据的问题，将算法部署在云计算平台Hadoop上。通过在新浪微博平台上获取的真实数据进行实验，结果表明，所提出的权值计算方法比TF-IDF和UF-ITUF有更高的性能，并且云框架的使用较好地提高了处理速度，适合用于海量数据的分析和挖掘。