分享自:

一种社交网络虚假信息传播控制方法

期刊:计算机研究与发展

本文提出了一种社交网络虚假信息传播控制方法FIDIC。研究作者为王永刚、蔡飞志、Eng Keong Lua、胡建斌、陈钟,分别来自高可信软件技术教育部重点实验室(北京大学)、网络和软件安全保障教育部重点实验室(北京大学)、北京大学信息科学技术学院软件研究所以及莫纳什大学信息技术学院。该文发表于《计算机研究与发展》2012年第49卷增刊。研究团队针对社交网络中虚假信息泛滥这一问题,将搜索引擎中的PageRank算法引入社交网络传播控制领域,通过计算用户在虚假信息传播过程中的等级值(difrank),识别并控制高等级用户的传播行为,从而抑制虚假信息扩散。文章的主要研究内容包括:虚假信息筛选、用户difrank值计算、传播控制效能评估以及FIDIC算法完整流程。实验数据来自人人网,覆盖1,131名用户和69,813条状态信息,并以9个常见虚假信息主题进行控制效果验证。结果表明,该算法能够有效降低虚假信息传播覆盖率,并且与随机控制、基于出度控制和基于入度控制相比具有明显优势。总体来看,FIDIC在社交网络虚假信息治理方面表现出较高精度、较强可行性和较高实用价值。

本文研究的核心问题,是社交网络中虚假信息的传播控制。随着在线社交网络的快速发展,大量虚假信息借助用户转发行为迅速扩散,不仅对公众认知造成影响,也可能引发经济损失或社会信任危机。研究团队指出,在社交网络中,信息传播路径由用户之间的转发行为构成。某些用户在虚假信息传播链条中起到关键作用,如果能够识别并限制这些用户的转发行为,就能有效压缩虚假信息的传播覆盖面。基于这一想法,研究团队将网页排名中“被大量高质量网页链接的网页更重要”这一思想迁移到社交网络场景中,提出了“被大量用户转发的用户在虚假信息传播中更重要”的基本假设。

在方法设计上,FIDIC算法包含多个重要步骤。第一步是根据需要控制的虚假信息主题构建关键词表和逻辑表达式。例如,对于“碘盐防辐射”这一虚假主题,需要组合地震、碘盐、防辐射、核泄漏和谣言等关键词,构建逻辑表达式进行信息过滤。第二步是筛选虚假信息及其对应的转发序列,获得初始传播用户集合。第三步开始进入difrank值计算阶段。difrank的计算公式在形式上与PageRank非常相近:用户的difrank值由其所有转发来源用户的difrank值加权后求和,同时加入逃离项以防止环路累积问题。这里的“转发来源用户”是指被当前用户转发的信息原作者。如果用户A转发用户B的信息,那么在difrank计算中,B的分数会部分传递给A,这与网页链接分析中链接目标页面获得权重是一致的。

difrank值的计算方式是FIDIC算法的核心部分。算法将所有用户赋予初始difrank值,然后遍历用户对虚假信息的转发数据库,将每个用户的difrank值平均分配给被其转发的来源用户。每次迭代之后,计算归一化因子并添加逃离项,以解决闭环内用户不断累积difrank值但不向外分配的问题。迭代过程持续进行,直到difrank值收敛,从而得到每个用户在特定虚假信息传播中的等级排序。最后,按照difrank值从高到低对用户排序,逐步控制最高等级用户的转发行为,并计算每次控制后的信息传播覆盖率。当覆盖率降低到设定阈值以下时,停止控制。传播覆盖率定义为控制后信息可达用户数量与控制前信息可达用户数量的比值。

在实验中,研究团队选取了9个常见虚假信息主题作为测试对象,包括日本地震、超级病菌、有机蔬菜、金庸去世、周萌萌、李娜怀孕、玉溪地震、歼十坠毁以及500元人民币。实验结果显示,随着控制用户比例的增加,各主题的虚假信息传播覆盖率逐步下降。例如,在日本地震主题中,未控制时覆盖率为76%,控制10%用户后覆盖率降至56%,控制90%用户后覆盖率为6%。在金庸去世主题中,未控制时覆盖率为74%,控制90%用户后覆盖率为4%。这说明FIDIC算法在多个主题上均能取得较好的传播抑制效果。此外,研究团队还将FIDIC与3种现有控制方法进行对比,分别是随机传播控制、基于出度的传播控制和基于入度的传播控制。对比实验以日本地震主题为对象,结果显示FIDIC在不同控制比例下均比3种对照方法更有效地降低虚假信息传播覆盖率。

文章的创新之处主要体现在两个方面。一方面,FIDIC算法首次将PageRank思想用于社交网络虚假信息传播控制,将用户转发关系映射为网页链接关系,从而实现了对用户在传播过程中重要性的量化评价。另一方面,文章还提出了一种传播控制效能评估方法,即利用传播覆盖率这一指标来衡量控制效果,为后续研究提供了可量化的评估工具。文章指出,在实验过程中,作者基于人人网真实数据构建了用户状态转发图,并通过加权的有向边表示用户之间的转发次数,这种数据建模方式也为大规模社交网络传播分析提供了参考。

从科学价值来看,FIDIC方法拓展了PageRank算法的应用边界,证明了链接分析思想可以用于社交网络中的信息传播控制问题。从应用价值来看,该方法具有计算相对简单、可操作性强等特点,适合在真实社交网络平台上部署。平台可以借助类似机制识别虚假信息传播中的关键用户,并通过限制其转发权限或进行风险提示来干预传播链条。相比传统的网络内容审核和关键词过滤等手段,FIDIC更强调从传播结构的角度切入,有助于在不完全删除内容的情况下实现传播路径的截断。总体而言,该研究为在线社交网络中的虚假信息治理提供了新思路、新方法和实证数据支持。

上述解读依据用户上传的学术文献,如有不准确或可能侵权之处请联系本站站长:admin@fmread.com