本文是一篇综述性论文（类型b），发表于《计算机学报》2021年第44卷第11期，题为《人工智能视角下的在线社交网络虚假信息检测、传播与控制研究综述》。作者包括张志勇、荆军昌、李斐和赵长伟，其中张志勇为通信作者，来自河南科技大学信息工程学院与河南省网络空间安全应用国际联合实验室，李斐来自广州巨杉软件开发有限公司。该研究得到国家自然科学基金、河南省中原千人计划等项目的资助。论文围绕在线社交网络（Online Social Networks, OSNs）中虚假信息的自动化检测、传播与控制问题，从人工智能的视角进行了系统性的综述和分析。

论文的第一个主要观点是对在线社交网络虚假信息检测的关键问题进行了系统梳理。作者首先对虚假信息进行了定义，指出其具有故意性和可证实性两大特征，并与谣言进行了区分：谣言具有不确定性、时效性、主观性和关联性，而虚假信息则是制造者故意误导读者且可被证实为假的信息。在检测问题定义上，论文给出了形式化的决策函数和特征向量表示，为后续检测方法提供了数学基础。在检测方法方面，论文将检测流程分为特征提取和模型构建两个阶段。在特征提取上，主要分为内容特征和社交上下文特征两大类。内容特征包括基于语言的特征和基于视觉的特征，例如词汇特征、句法特征、图像的清晰度得分和一致性得分等；社交上下文特征则包括用户特征、用户发布（转发）的帖子特征以及基于网络的特征，如立场网络、共存网络、朋友关系网络和扩散网络等。在模型构建上，论文总结了信息内容模型、社交上下文模型和混合模型。信息内容模型分为基于知识的方法和基于风格的方法，社交上下文模型分为基于立场的方法和基于传播的方法，混合模型则结合内容特征和社交上下文特征，运用逻辑斯蒂回归、支持向量机、循环神经网络、卷积神经网络和图神经网络等机器学习与深度学习方法来检测虚假信息。该部分内容为理解虚假信息检测的现有研究提供了全面的分类框架。

论文的第二个主要观点是对虚假信息传播问题从社交自然人和社交机器人两类主体进行了深入分析。作者指出，虚假信息传播研究可以追溯到早期复杂网络和小世界网络中的谣言传播动力学模型，而近年来则转向社交自然人和社交机器人的混合型、交互式传播模式研究。在基于社交自然人的传播研究中，论文分别从基于传染病传播模型、基于社交网络统计性质和基于跨媒介传播研究三个方面进行了综述。在传染病模型方面，研究者主要采用SIR、SIS等模型刻画传播过程，并研究了正面信息和负面信息混合传播的动力学模型，证明了通过传播正面信息来抑制负面信息是一种有效策略。在社交网络统计性质方面，研究者利用洛伦兹曲线、基尼系数、密度和边节点比等指标，发现虚假新闻比真实新闻传播得更远、更快、更深和更广泛，且年龄大、受教育程度低的用户更易分享虚假信息。在跨媒介传播方面，论文介绍了PRCMA多元信息传播模型，该模型包含信息传播者集合、信息接收者集合、信息内容集合、传播媒介集合和信息传播效果评价五个要素。在基于社交机器人的传播研究中，论文首先总结了社交机器人的检测方法，包括基于图的方法、基于众包的方法和基于机器学习的方法。基于图的方法利用信任传播和图聚类等技术检测恶意机器人；基于众包的方法通过人工标注来提高检测准确率，但存在成本高、隐私泄露和标注质量不稳定等缺陷；基于机器学习的方法则从网络特征、用户特征、交友特征、时间特征、内容特征和情感特征等六类特征出发，采用随机森林、支持向量机、深度学习和聚类算法来区分社交自然人与社交机器人。论文还指出，社交机器人在虚假新闻传播的早期阶段尤为活跃，并且倾向于针对有影响力的用户进行操控，从而加速虚假信息的扩散。该部分通过对比分析社交自然人和社交机器人的传播规律，揭示了虚假信息传播的复杂机制。

论文的第三个主要观点是对虚假信息传播控制方法进行了全面系统的梳理，提出了节点控制和使用控制模型。作者首先指出，按照虚假信息传播的时间戳可以将控制分为传播前、传播中和传播后控制，但目前大多数社交平台只能进行传播中和传播后控制，采用“封号”、“禁言”、“删帖”等被动方式。在节点控制方面，论文将其分为基于时间戳的节点控制方法和基于影响力的节点控制方法。基于时间戳的方法直接封禁传播虚假信息的账号，但未考虑节点之间的相互影响；基于影响力的方法则通过运用社交网络拓扑结构特性和语义情感分析，识别并控制关键节点，从而更有效地阻断传播。在访问控制方面，论文介绍了基于角色、基于属性和基于关系的访问控制模型，并指出传统访问控制技术通常缺少对事前（传播前）和事中（传播中）的使用控制方法研究。为此，论文提出了一个适用于虚假信息传播研究的使用控制模型，该模型旨在将新一代人工智能技术与传统访问控制和使用控制技术相结合，实现虚假信息传播前的有效控制。此外，论文还给出了OSNs访问控制体系结构，该结构可适用于社交网络虚假信息传播控制的应用场景。该部分强调了从事前、事中、事后全生命周期进行虚假信息传播控制的必要性，并为未来研究提供了理论框架。

论文的第四个主要观点是对虚假信息研究中的数据采集、标注方法和常用公开数据集进行了系统总结。作者指出，虚假信息检测和传播研究依赖于高质量的数据集。在数据采集方面，研究者通常从Twitter、Facebook、新浪微博等主流社交平台获取数据；在数据标注方面，早期研究主要采用众包方法，利用Amazon Mechanical Turk等平台建立真实数据集，但众包方法存在参与者技术知识不足和偏见等问题。论文还列举了多个公开数据集，例如用于社交机器人检测的Twitter数据集和CyVOD平台数据集，以及用于虚假新闻检测的Twitter和微博数据集。这些数据集为后续研究提供了重要的实验基础。该部分内容有助于研究者快速获取和利用现有资源，减少数据准备阶段的工作量。

论文的第五个主要观点是提出了社会情境安全（Social Situation Security）和分析框架，并展望了未来研究方向。作者构建了一个包含五个层次（社交实体层、社交环境层、社交行为层、社交意图层、社交目标层）和六个要素（社交客体、身份、行为、期望、环境、目标）的社会情境安全框架，旨在为虚拟社交网络空间安全和网络信息内容生态治理提供理论基础、技术支持和应用场景。在未来的研究展望中，论文指出了虚假信息跨平台传播和控制所面临的问题与挑战，包括多平台之间的协同检测、跨平台传播路径的追踪以及基于人工智能的自动化控制策略等。该部分为后续研究指明了可能的发展方向，具有重要的学术价值和应用前景。

本文作为一篇综述论文，全面系统地总结了人工智能视角下在线社交网络虚假信息检测、传播与控制的研究现状，涵盖了检测特征与模型、社交自然人与社交机器人的传播模式、节点控制与使用控制方法、数据资源以及社会情境安全框架等主要内容。论文不仅为相关领域的研究者提供了清晰的知识图谱和技术参考，还提出了若干前沿问题和未来研究方向，对推动网络空间安全治理和虚假信息生态治理具有重要的科学意义和实际应用价值。