本文属于类型a,即单项原创研究报告。以下为据此生成的学术报告。
本研究题为《基于条件最优传输的网络虚假信息检测研究》,由冯国平、王海吉、洪亮、方家良共同完成。第一作者冯国平与王海吉、方家良来自中国能源建设集团广东省电力设计研究院有限公司,洪亮来自武汉大学人工智能学院。该文于2025年8月22日在《计算机工程》(computer engineering)网络首发,doi为10.19678/j.issn.1000-3428.0252286。研究针对社交媒体中虚假信息传播对公共安全的威胁,提出了一种融合条件最优传输(conditional optimal transport,cot)与空间序列映射的检测方法,力图解决现有外部知识增强方法中存在的知识冗余、噪声干扰以及特征融合静态化问题。
从学术背景来看,该研究属于人工智能与自然语言处理(natural language processing,nlp)交叉领域中的虚假信息检测方向。社交媒体上的虚假信息检测方法通常分为基于社交上下文和基于内容两类。基于社交上下文的方法虽然可以有效捕捉传播路径与用户交互特征,但依赖传播图等结构化数据,难以适用于信息发布初期或去中心化平台。基于内容的方法则直接利用文本语义,具有更强的场景泛化能力。近年来,引入外部知识已成为提升内容型检测性能的重要途径,知识来源包括知识图谱、检索文档以及大语言模型(large language model,llm)生成内容。然而,外部知识往往包含冗余和噪声,且传统融合策略多为静态拼接或固定加权,缺乏对知识贡献度的动态评估。因此,本研究旨在从外部知识中提取与原始文本语义最相关的关键特征,并在融合阶段引入结构保持与自适应加权机制,以提升虚假信息检测效果。
在工作流程方面,研究将虚假信息检测形式化为二元分类任务,即学习函数f(n)→y,其中n为待检测文本,y为真实性标签。方法结构包含两个主要模块:基于条件最优传输的关键特征提取模块和特征融合分类模块。在关键特征提取阶段,作者首先利用预训练语言模型bert分别编码原始信息文本与外部知识。外部知识由大语言模型生成的描述性文本构成,表示为g={rt, rc}。随后,抽取原始文本的[cls]向量作为全局语义条件c,并通过单隐层mlp映射到条件空间。与传统最优传输(optimal transport,ot)仅考虑源与目标分布之间的代价最小化不同,本文引入条件最优传输框架,将特征降维任务转化为特征维度上的最优子集选择问题。具体做法是将外部知识表征矩阵转置,使优化对象变为特征通道而非序列位置。构建传输计划矩阵p,在满足行列归一化约束下,最小化由条件向量调节的kantorovich-rubinstein(kr)距离。代价矩阵通过可学习参数对特征向量施加条件调节,增强判别性特征的响应强度。为了高效求解该优化问题,作者引入熵正则项并采用sinkhorn算法,得到平滑且可微的最优传输计划p*。再根据p*中的高权重维度,从原始知识表征中筛选出低维版本g′,作为下游模块的输入。同时,定义条件最优传输损失,通过sinkhorn正则化稳定优化过程,使关键特征向判别性维度聚集。
在特征融合分类模块中,作者设计了空间序列映射机制,利用正弦和余弦位置编码显式建模单词在序列中的位置信息,以保留文本结构特征。为捕捉原始文本与外部知识之间的交互,定义了交叉注意力算子croatt,对注意力输出沿序列长度维度做平均池化,得到聚合向量。随后,通过计算原始文本与关键知识表征之间的余弦相似度,动态评估外部知识对当前检测任务的贡献度,并据此重新加权融合向量。最终将原始文本特征与加权后的知识特征通过可学习参数α和β融合,输入mlp分类器,采用softmax输出真伪概率。模型训练使用二分类交叉熵损失,并与条件最优传输损失通过超参数σ加权求和作为总体损失函数。
在实验部分,研究使用了中文数据集weibo和英文数据集gossipcop。weibo包含真实样本4640条、虚假样本4466条,gossipcop包含真实样本4932条、虚假样本1484条。为增强随机性与合理性,作者合并训练集、验证集和测试集后采用五折交叉验证,按4:1划分训练集与测试集。评价指标包括准确率(acc.)、宏f1(macf1)、真实类f1(f1real)和虚假类f1(f1fake)。基线模型包括eannt、publisher-emo、endef、supericl和arg。对比实验结果显示,本文方法在weibo上取得macf1 0.924、acc. 0.925、f1real 0.925、f1fake 0.923,在所有指标上均超过最优基线arg,其中macf1提升3.1%。在gossipcop上,本文方法取得macf1 0.803、acc. 0.872、f1real 0.919、f1fake 0.686,macf1超过arg 1.3%,虚假类f1显著提升。虽然该数据集上acc.和f1real未达到最优,但差距很小。作者分析认为,这是由于gossipcop中真实样本约为虚假样本三倍造成的数据不平衡问题。为进一步验证这一判断,作者对gossipcop进行平衡化处理,随机剔除部分真实样本,使真实与虚假样本均为1482条。平衡后本文方法在macf1、acc.、f1real和f1fake上分别达到0.806、0.806、0.815和0.795,全面超过arg模型,说明原数据集上的部分性能受限确与不平衡有关。
在消融实验中,去除条件最优传输模块后,weibo和gossipcop上的macf1分别降至0.903和0.790,acc.分别为0.905和0.861;去除空间序列映射后,macf1分别为0.918和0.799,acc.分别为0.918和0.868;全部模块同时使用时性能最佳。这表明两个模块对模型性能均有正向贡献。作者还比较了原始文本的不同特征向量作为先验条件的影响,结果表明使用[cls]向量优于句子级向量,说明[cls]向量更稳定地捕捉文本主旨,有利于从外部知识中筛选关键特征。此外,在位置编码的施加对象上,仅在原始文本上添加位置序列映射优于同时对外部知识也添加位置映射,说明外部知识的结构信息可能引入冗余,反而影响模型性能。
在参数敏感性分析中,作者考察了超参数σ在0.02至0.1之间变化对模型性能的影响。结果显示f1分数波动均在±0.015以内,表明模型对超参数变化具有较强鲁棒性。此外,最优σ值在weibo上接近0.08,在gossipcop上接近0.02。针对大语言模型“幻觉”问题,作者引入另一个llm作为评价器,对生成的外部知识进行有用性评估,并以交叉熵损失优化。实验表明,加入评价器后,weibo上macf1提升至0.926,acc.提升至0.927;gossipcop上macf1提升至0.805,acc.提升至0.873。这说明减少幻觉确实有助于提高检测性能。在计算开销方面,与arg模型相比,本文方法单epoch平均训练时间在weibo上从78.4秒增至84.8秒,在gossipcop上从51.1秒增至54.7秒,平均增加约7.6%。考虑到f1分数平均提升2.5%,作者认为这一开销是可接受的。
本研究的核心结论是:条件最优传输能够以原始文本语义为先验,从大语言模型生成的外部知识中有效提取关键特征,减少冗余与噪声干扰;空间序列映射模块通过显式建模位置信息保留结构特征;余弦相似度动态加权机制则实现了外部知识的自适应融合。该方法在中文和英文数据集上均取得了优于现有最优基线的检测性能,尤其在虚假类f1上提升明显。研究为知识增强的虚假信息检测提供了新的理论范式与技术路径,具有较强的科学价值和应用前景。未来工作将扩展到多模态虚假信息检测,探索不同模态特征对齐融合,并进一步优化训练效率与减少llm幻觉。
本研究的亮点在于将条件最优传输理论引入虚假信息检测的关键特征提取环节,突破了传统ot方法忽视语义约束的局限;在特征融合阶段引入空间序列映射与动态相似度加权,增强了模型对文本结构信息和知识贡献度的建模能力;并通过消融实验、平衡数据集实验、参数敏感性分析和幻觉消减实验系统验证了方法的有效性与鲁棒性。