这是一篇综述性论文，作者包括来自亚利桑那州立大学计算机科学与工程系的Amrita Bhattacharjee和刘欢、伊利诺伊理工大学计算机科学系的舒凯，以及重庆大学大数据与软件学院的高旻。该文于2021年发表在《计算机研究与发展》第58卷第7期，文章题为《网络信息生态系统中的虚假信息：检测、缓解与挑战》。论文英文版可在arXiv上获取。全文系统梳理了网络虚假信息，特别是新冠疫情背景下“信息疫情”（infodemic）中的虚假信息问题，总结了检测与缓解虚假信息的主要方法，并着重分析了该领域研究中的固有挑战和跨学科研究路径。

论文的核心观点是：网络信息生态系统高度嘈杂，充满误传信息（misinformation）和虚假信息（disinformation），而虚假信息往往被恶意媒介故意传播，可能威胁公共卫生、民主和国际关系。尤其在新冠病毒大流行期间，健康相关的虚假信息、阴谋论、骗局和欺诈大量出现，给病毒防控和社会信任带来严重危害。因此，研究有效的检测方法和缓解策略具有重要的科学价值和社会意义。

在虚假信息检测方法方面，论文从多个技术路线进行了概括。第一类方法是结合文本内容和社交信息进行检测。早期研究大多使用人工构造的文本或语言特征，如词汇、语法特征，后来逐渐引入社交网络中的辅助信息，包括用户个人资料、用户参与度以及新闻文章、读者和发布者之间的关系，这些信息能够显著提高检测性能。第二类方法利用用户评论进行检测。用户评论可以提供关于文章真实性的丰富线索，尤其在新出现的话题缺乏基本事实的情况下，评论可以支持虚假新闻的早期发现。还有一些研究通过学习用户对新闻文章的反应方式，生成模拟用户反馈，以补充早期检测阶段评论缺失的问题。第三类方法是基于事实核查（fact-checking）的方法。人工事实核查依赖领域专家或众包知识，自动事实核查则从文章中抽取主语、谓语、宾语三元组，与知识图谱或结构化知识库进行对比，以判断真实性。自动方法的主要障碍是缺乏大规模且及时更新的知识库。第四类方法是可解释性检测和跨域检测。可解释性方法利用文章内容和用户评论解释分类结果，有助于设计更好的检测算法；跨域检测则尝试解决标记数据稀缺的问题。由于普通虚假新闻检测器在不同领域上的泛化性能较差，有研究者提出事件对抗神经网络（event adversarial neural network），试图学习与事件无关的共享特征，使模型在新型虚假信息上仍能保持较好表现。

在缓解虚假信息传播方面，论文重点讨论了三种方法。第一种是网络干预，将社会媒体平台建模为网络，节点表示用户，边表示用户之间的联系。虚假信息以级联形式传播，可以通过发起包含事实核查内容的反向级联来限制原始虚假信息的影响。该问题称为影响限制或影响最小化问题，已经证明是NP难问题，但研究者开发了贪心算法和近似算法来求解。部分工作考虑了离散时间模型、多个级联以及跨平台传播问题。第二种方法是内容标记。社会媒体平台允许用户标记或报告有害或虚假内容，并借助第三方事实核查程序判断真实性。如果内容被证实为虚假，平台可以删除帖子以减少传播。但论文指出，标记和删除虚假信息涉及言论自由与防止虚假信息传播之间的平衡，具有很大争议性。第三种方法是易感用户分析与识别，即通过分析用户、内容和网络特征识别最容易接受和传播虚假信息的脆弱用户群体，从而进行针对性的事实核查或真实信息提供。

论文进一步系统分析了虚假信息研究中面临的若干核心挑战。其一，数据挑战。虚假信息广泛存在于不同领域，不同领域的数据在写作风格和词汇上差异很大，在一个领域上训练的分类器难以直接迁移到其他领域。为每个领域单独开发分类器成本高昂，而带有注释的数据集获取困难，有时需要领域专家参与。此外，训练数据集的收集方式也存在问题，因为信誉高的新闻网站也可能发布错误信息，可疑网站也并非所有内容都是虚假的，因此亟需基于事实核查网站获取真实标签的方法。其二，早期检测和有效缓解方面的挑战。新出现事件缺乏领域知识支持，人工事实核查速度慢，自动检测模型又缺乏相关训练数据，同时早期阶段用户评论和反馈不足，都会制约检测和缓解的及时性。其三，基于事实核查的缓解方法面临挑战。人工事实核查过于缓慢，自动事实核查依赖的知识库更新不及时且可能存在噪音或偏差，自然语言处理模型也可能带有语义偏差。其四，多模态信息带来的挑战。新闻文章和帖子通常包含图像、视频或音频，伪造的图像和深度伪造（deepfakes）内容极难识别。即使图像和文本各自真实，二者组合在一起也可能形成误导。虽然已有研究学习文本和图像的联合表示或利用外部知识图谱融合多模态特征，但缓解多模态虚假信息传播影响的研究仍然有限。其五，政策问题与公平性方面的挑战。社会媒体平台在成功检测虚假信息后，应采取何种纠正措施是一个敏感问题。言论自由与虚假信息防控之间的平衡长期存在争议。同时，社会媒体监管是否公平、无偏见也是一个重要问题。某些群体可能觉得自己更容易成为监管目标，因此制定缓解政策时需要保护各方利益。

论文还从跨学科角度阐述了虚假信息研究的必要性和路径。作者指出，虚假信息问题不仅是一个技术问题，还涉及社会科学、心理学和认知科学。认知科学中的启发式理论可以解释人们为何容易相信虚假信息。声誉启发式（reputation heuristic）、支持启发式（endorsement heuristic）和自我确认启发式（self-confirmation heuristic）都可能使用户对虚假新闻产生错误信任。双重过程理论指出，人类大脑中有自动处理和分析处理两种方式，自动处理容易导致误判。动机推理也使人们倾向于相信与既有信念一致的信息。研究表明，事实核查标签甚至可能产生“适得其反”的效应，使人们更坚定地相信虚假叙述。因此，在缓解虚假信息时，仅依靠技术手段并不足够，还需要提高公众的媒体素养（media literacy）和信息素质（information literacy）。许多组织、新闻机构和教育项目已经开展相关工作，例如“信任项目”（Trust Project）制定了八个“信任指标”，以建立新闻来源的可信赖性、透明度和问责性。

整体来看，该综述的亮点在于：第一，将虚假信息问题置于新冠疫情“信息疫情”背景下进行系统分析，突出了问题的现实紧迫性；第二，从检测和缓解两大维度全面梳理了计算方法，涵盖了社交信息、用户评论、事实核查、可解释性、跨域检测、网络干预、内容标记、易感用户识别等多个方向；第三，深入剖析了数据稀缺、早期检测、多模态信息、政策公平性等研究障碍，并引入跨学科视角解释虚假信息传播的认知机制，提供了一个融合计算机科学与社会科学的分析框架。该文对从事虚假信息检测、社会计算、自然语言处理以及网络科学研究的学者具有较好的参考价值，也为社会媒体平台治理和公共政策制定提供了有益启示。