分享自:

基于强化学习引导图增强的不平衡与噪声社交机器人检测

期刊:Proceedings of the AAAI Conference on Artificial Intelligence

一、 研究团队与发表信息

本研究的主要作者是张龙龙、王曦、杜浩通、徐洋熠、刘卓和刘洋。作者团队主要来自西北工业大学人工智能、光学与电子研究所(iOPEN)和西北工业大学深圳研究院,合作者来自西安交通大学自动化科学与工程学院。该研究以论文形式发表于2026年第三十届人工智能促进协会会议(AAAI-26)的会议录中。

二、 学术背景与研究动机

本研究属于计算机科学领域,具体方向是社交网络分析与网络安全,聚焦于社交机器人检测这一关键任务。随着社交媒体成为公众舆论的主要平台,社交机器人(模仿人类用户的自动化软件代理)的渗透已成为严重的学术和实际问题。这些机器人参与大规模信息传播,与虚假信息传播、选举干预、舆论操纵等有害行为相关联,严重威胁在线信息生态系统的完整性。因此,开发有效的机器人检测技术对于维护网络空间信任至关重要。

现有的社交机器人检测方案主要分为两类:基于特征的方法和基于图的方法。基于特征的方法依赖用户元数据或文本内容,但面对日益“拟人化”的机器人,这些浅层特征容易被模仿,难以检测伪装良好的机器人。近年来,基于图神经网络(Graph Neural Networks, GNNs)的方法成为主流,它们利用社交网络的结构拓扑信息,通常能取得更好的性能。然而,在实际应用中,GNN方案面临两大严峻挑战:(i)类别不平衡:社交图中机器人节点(少数类)的数量远少于人类节点(多数类),导致模型偏向于多数类,系统性误判机器人账户。(ii)拓扑噪声:机器人会策略性地模仿人类行为并伪造连接关系,在社交图中产生大量不可靠的边(例如连接人类与机器人的边)。在GNN的消息传递过程中,这些噪声边会将机器人特征传播到良性的邻居社区中,污染节点表示,最终损害检测性能。

针对上述挑战,本研究旨在提出一个统一的框架,同时解决类别不平衡和拓扑噪声问题。研究目标是开发一个鲁棒、高效的社交机器人检测系统,能够提升现有GNN模型的性能,并适用于大规模、嘈杂的真实社交网络。

三、 研究方法与详细工作流程

本研究提出了一个名为RABOT(Reinforcement-guided grAph augmentation for social BOT detection)的多粒度图增强框架。RABOT不依赖于特定的GNN架构,是一个可插拔的增强模块。其整体架构包含四个核心模块:用户信息表征模块、特征增强模块、强化学习边过滤模块和GNN分类模块。具体工作流程如下:

1. 用户信息表征模块 * 研究对象与处理:该模块处理每个用户的异构信息,包括数值/布尔型个人资料属性、个人描述文本和发布的推文序列。 * 实验方法:首先,使用多层感知机(MLP)处理数值和布尔属性,得到特征向量u_vu_b。其次,使用预训练语言模型(如RoBERTa)编码个人描述和推文序列,分别得到特征向量u_du_t。其中,推文序列通过平均池化进行聚合。 * 新颖算法:为融合这些异构特征并缓解模态间的语义不匹配,研究引入了一个多头自注意力机制。将上述四个特征向量拼接后,通过一个可学习的线性变换得到初始用户嵌入U。随后,U被输入多头自注意力层,通过计算查询(Query)、键(Key)、值(Value)之间的交互,生成最终的融合用户表征Û。这一步能有效捕捉不同模态信息之间的重要关联。

2. 特征增强模块(解决类别不平衡) * 研究目标:在潜在特征空间中为少数类(机器人)合成新的样本,以平衡训练数据的类别分布,同时避免在原始图中引入虚假的边结构。 * 实验方法:该模块在GNN编码后的潜在空间进行操作。对于每个少数类节点v_i,首先在其同类节点中计算欧几里得距离,找出其k个最近邻节点集合γ(v_i)。然后,随机从该邻居集合中选择一个节点v_x。 * 新颖算法:采用邻域感知的过采样策略。通过线性插值在v_i和其邻居v_x的特征向量之间生成一个新的合成节点特征u_k = (1 - δ) * u_i + δ * u_x,其中δ是一个在(0,1)区间均匀采样的随机数。该合成节点被赋予少数类标签。重复此过程,直到少数类与多数类的样本数量达到平衡。这种方法在局部子图的特征流形上进行插值,有助于在低资源情况下稳定分类器的决策边界。

3. 强化学习边过滤模块(解决拓扑噪声) * 研究目标:动态识别并剪除社交图中的不可靠边(噪声边),在消息传递过程中净化图拓扑结构。 * 工作流程:该模块分为三个阶段: * a. 节点级相似度计算:为了获得更具判别力的边可靠性度量,研究没有直接使用原始节点特征的距离,而是将节点通过一个两层的MLP标签预测器,计算中心节点v_i与其邻居v_j的预测输出之间的L1距离d_{i,j},并将其转换为相似度概率p_{i,j} = 1 - d_{i,j}。这种基于预测一致性的相似度更能抵御机器人的行为伪装。 * b. 基于阈值的边过滤:引入一个可训练的阈值τ(初始化为0.5)。对于每条边,如果其相似度概率p_{i,j} ≥ τ,则保留该边(m_{i,j}=1);否则,移除该边(m_{i,j}=0)。这个过程为后续的GNN消息传递产生了一个净化后的邻接矩阵。 * c. 自适应阈值优化(强化学习):研究发现,最优的过滤阈值τ可能因数据集和训练阶段的不同而变化。为此,研究设计了一个轻量级的强化学习智能体来动态调整τ。 * 状态(State):包含节点特征的均值μ(u)和标准差σ(u),以及近期准确率变化Δ_acc和损失变化Δ_l,共同刻画当前的训练状况。 * 策略(Policy):一个小型MLP,参数为θ,将状态s映射为一个动作a = σ(MLP_θ(s))a是一个介于0和1之间的值。 * 动作(Action):根据动作a更新阈值:τ ← τ + (2a - 1)λ,其中λ是步长。(2a-1)决定了更新的方向和幅度。 * 奖励信号:边过滤的决策通过一个二元交叉熵损失L_edge进行监督,该损失鼓励模型保留同类节点之间的边(同质边),并移除连接不同类节点的边(异质边)。

4. GNN分类模块 * 研究目标:利用增强后的节点特征和净化后的图结构,进行最终的机器人分类。 * 实验方法:这是一个架构无关的模块,可以兼容任何主流的消息传递GNN变体(如GCN、GAT、RGT等)。将处理后的节点特征和过滤后的邻接矩阵输入GNN层,进行信息聚合与节点表示更新。最后,通过一个线性输出层和Softmax函数产生每个节点属于机器人或人类的预测概率ŷ_i。 * 优化目标:模型采用多目标优化方案,总体损失函数L由三部分加权组成: * L_gnn:在原始节点上计算的分类交叉熵损失。 * L'_gnn:在特征增强模块生成的合成节点上计算的分类交叉熵损失,用于直接缓解类别不平衡。 * L_edge:边过滤模块的损失,用于指导可靠边的识别。 * 超参数λ_sλ_e用于平衡这三项损失的贡献。

四、 主要研究结果

研究在三个广泛使用的真实世界社交机器人检测基准数据集上进行了全面评估:Cresci-15, Twibot-20 和 MGTAB。主要结果如下:

1. 整体性能优越性:RABOT在所有三个基准测试中都达到了新的最先进(SOTA)性能。例如,在Cresci-15数据集上,使用RGT作为GNN骨干的RABOT取得了99.14%的准确率和98.94%的F1分数,超过了之前的SOTA方法BECE。在规模更大、噪声更明显的MGTAB数据集上,RABOT(RGCN骨干)取得了91.16%的准确率和89.03%的F1分数,相比之前的最佳模型有显著提升(准确率提升0.85个百分点)。这证明了RABOT框架在处理不同规模和特性的社交网络时的强大有效性。

2. 骨干网络无关的增益:无论底层使用哪种GNN骨干网络(GCN, GAT, RGT, RGCN),集成RABOT模块后,模型性能均获得一致且显著的提升。平均而言,在三个数据集上,RABOT为GCN、GAT、RGT和RGCN分别带来了约2.992.64、2.742.59、1.511.42和2.252.00个百分点(准确率/F1分数)的绝对提升。这一结果强有力地证实了RABOT的类别平衡和边过滤模块与现有消息传递方案是正交且互补的,具有普适的增强能力。

3. 对大规模噪声图的强扩展性:性能提升在MGTAB数据集上最为显著,该数据集包含170万条边,类别不平衡和拓扑噪声问题尤为突出。其中,基础性能相对较弱的GCN骨干在集成RABOT后提升幅度最大(F1分数提升4.73个百分点),表明RABOT的方法在处理基础架构较弱、图规模大且噪声多的场景时特别有益。

4. 改进的训练稳定性:除了更高的平均性能,RABOT还降低了多次实验运行结果的标准差(波动性)。例如,在MGTAB上,RGT骨干的F1分数标准差从1.12%降至0.16%。这表明RABOT带来了更平滑的优化轨迹和更好的收敛性。

5. 消融研究验证模块贡献:通过系统性地移除或替换RABOT的各个组件进行消融实验,结果证实了每个设计环节的必要性。 * 移除特征增强模块(w/o FA):在类别不平衡严重的MGTAB数据集上性能下降明显(RGT准确率从90.74%降至89.90%),证明了该模块对于丰富少数类表示、平衡类别分布的关键作用。 * 移除边过滤模块(w/o EF):在所有数据集上导致最大的单组件性能下降(平均准确率/F1分数下降约1.211.29个百分点),尤其是在MGTAB上(RGCN准确率下降1.43个百分点)。这突显了在社交图存在大量欺骗性连接时,去噪边过滤对于提升性能至关重要。 * 移除GNN分类模块(w/o GC):导致性能最严重的下滑,强调了消息传递机制对于细化节点特征的根本性作用。 * 移除多头注意力(w/o MA):也会引起性能下降,表明融合异构用户信号的注意力机制优于简单的线性投影。

6. 边过滤策略的有效性分析:与随机删除相同比例边的基线方法相比,RABOT的边过滤策略在所有数据集上都持续领先。这归功于其结合了基于相似度的边特征和强化学习自适应阈值优化,能够有选择地抑制结构噪声,增强GNN捕捉重要连接模式的能力。实验还对比了固定阈值与动态阈值,结果显示RABOT的自适应阈值方法在所有固定阈值设置中取得了最佳性能。

7. 在有限监督下的鲁棒性:通过逐渐减少训练数据的比例(从10%到100%)进行实验,发现RABOT即使在标注数据稀缺的情况下也能保持强劲性能。在Twibot-20上,仅使用80%的训练数据即可超越大多数基线方法;在MGTAB上,仅需50%的训练数据就能超越原始RGT骨干网络的性能。这表明RABOT在低资源和中等资源场景下已能捕捉到关键模式。

8. 计算效率:在Twibot-20数据集上的实验表明,RABOT(RGT骨干)具有最短的训练时间和最低的峰值内存使用量。尽管训练了300个周期,但其速度比LMBot快4倍以上,内存占用仅为后者的14%,展现了优异的效率和可扩展性,有利于实际部署。

五、 研究结论与价值

本研究提出了RABOT,一个创新的、通过强化学习引导图增强的社交机器人检测框架。该框架的核心贡献在于统一地解决了类别不平衡和拓扑噪声这两个关键挑战。通过邻域感知过采样进行特征增强,以及在强化学习驱动下进行自适应边过滤,RABOT协同优化了节点表示和图拓扑结构。

科学价值: 1. 方法论创新:将用于解决类别不平衡的过采样技术,与基于强化学习的图结构学习技术相结合,为图神经网络处理现实世界中不完美(不平衡、噪声大)的图数据提供了一种新颖且有效的范式。 2. 理论贡献:提出了在潜在空间进行图数据增强以避免引入虚假边的方法,以及利用预测一致性而非原始特征相似度来评估边可靠性的度量标准,这些思路对图表示学习领域有借鉴意义。 3. 可推广性:框架设计与底层GNN架构解耦,证明了其作为通用性能增强模块的潜力,可无缝集成到现有的GNN流程中。

应用价值: 1. 提升检测性能:在多个真实基准上的实验表明,RABOT能显著且稳定地提升各种GNN骨干网络的检测准确率和F1分数,为平台方提供了更强大的机器人识别工具。 2. 增强鲁棒性:对类别不平衡和拓扑噪声的显式处理,使得检测系统在面对高度伪装和不断演进的社交机器人时更加稳健。 3. 兼顾效率:较低的计算开销和内存占用使其适用于大规模社交网络的分析与监控,具备实际部署的可行性。

六、 研究亮点

  1. 双挑战统一解决:首次在一个框架内同时、协同地解决了社交机器人检测中类别不平衡和拓扑噪声这两个相互关联的实践难题,而非孤立地处理其中一个。
  2. 多粒度图增强:创新性地从“节点特征”和“图结构”两个粒度对社交图进行增强,分别对应过采样和边过滤,形成了层次化的增强策略。
  3. 强化学习引导的自适应过滤:引入轻量级强化学习智能体动态优化边过滤阈值,使模型能够自适应不同数据集和训练阶段的最优过滤强度,避免了手动调参的繁琐和次优性。
  4. 骨干网络无关的插件式设计:整个框架不依赖特定GNN模型,具有高度的灵活性和可扩展性,易于与现有技术栈集成。
  5. 详实的实验验证:不仅在多个数据集和骨干网络上证明了性能优势,还通过系统的消融研究、数据效率分析、超参数敏感性测试和效率对比,全面验证了各个组件的有效性和框架的整体鲁棒性。

七、 其他有价值的内容

研究还对超参数敏感性进行了分析,发现RABOT对损失函数中的权重超参数λ_sλ_e不敏感,在较大范围内都能保持稳定的性能,这降低了模型调优的难度,进一步证明了其鲁棒性。此外,论文明确指出未来工作将侧重于进一步提高边过滤模块的效率、降低计算开销,并将RABOT扩展到社交媒体以外的领域,展现了其潜在的应用广度。

上述解读依据用户上传的学术文献,如有不准确或可能侵权之处请联系本站站长:admin@fmread.com