分享自:

联邦学习中鲁棒且持久的后门数据投毒攻击方法

期刊:IEEE NetworkDOI:10.1109/MNET.2024.3486228

这篇文档属于类型a,即报告了一项原创性研究。以下是对该研究的学术报告:

作者与期刊信息

本研究的主要作者包括Ye Liu、Shan Chang、Denghui Li、Shaohuai Shi和Bo Li,分别来自江西师范大学、东华大学、哈尔滨工业大学(深圳)和香港科技大学。该研究发表于《IEEE Network》期刊,预计于2024年出版。

学术背景

本研究属于联邦学习(Federated Learning, FL)领域,重点关注联邦学习中的后门数据投毒攻击(Backdoor Data Poisoning Attack)。联邦学习作为一种分布式机器学习框架,允许数据保留在本地设备上,仅共享模型更新,从而保护数据隐私。然而,联邦学习在本地模型训练和参数传输等关键过程中容易受到多种攻击,其中后门攻击尤为显著。后门攻击通过在本地模型更新中植入后门,操纵全局模型,严重威胁模型质量。

本研究的背景是现有的后门攻击方法在鲁棒性和持久性方面存在不足,尤其是在拜占庭容错聚合算法(Byzantine Fault-Tolerant Aggregation Algorithms)下,攻击效果难以持久。因此,本研究旨在提出一种新的后门数据投毒攻击方法——Rope-Door,通过触发生成算法提高攻击的鲁棒性和持久性。

研究流程

  1. 触发生成
    Rope-Door的核心思想是避免使用随机生成的触发器,而是基于当前全局模型学习最合适的后门触发器。具体步骤包括:

    • 初始化触发器并确定其模式(形状、大小和位置)。
    • 固定全局模型的权重参数,使用随机梯度上升算法优化触发器。
    • 通过多次迭代,找到能够使大多数图像被错误分类的通用对抗扰动(Universal Adversarial Perturbation)。
  2. 模型训练与投毒

    • 使用生成的触发器污染本地训练数据集,生成投毒数据集。
    • 使用投毒数据集训练本地模型,使其学习错误的关联。
    • 通过交替优化模型参数和触发器,实现全局模型准确性和后门攻击效果的双重目标。
  3. 实验评估

    • 在四个图像分类任务(MNIST、F-MNIST、CIFAR-10和CIFAR-100)上进行实验,使用LeNet5和AlexNet模型。
    • 比较Rope-Door与随机触发器方法在鲁棒性、持久性和攻击效果上的表现。
    • 评估不同数据分布(IID和非IID)、客户端参与比例和触发器位置对攻击效果的影响。

主要结果

  1. 鲁棒性
    Rope-Door在四种拜占庭容错聚合算法(FoolsGold、Geom-Median、Krum和RLR)下均表现出高攻击成功率(ASR),同时保持较高的主任务准确率(MTA)。例如,在LeNet5 on MNIST任务中,Rope-Door的ASR达到99%,而随机触发器的ASR仅为54%。

  2. 持久性
    Rope-Door在仅一次投毒后,仍能在后续联邦学习轮次中保持高ASR。例如,在LeNet5 on F-MNIST任务中,Rope-Door在10轮投毒后,ASR保持在0.95以上。

  3. 影响因素

    • 投毒样本数量:即使使用少量投毒样本,Rope-Door仍能保持高ASR。
    • 数据分布:Rope-Door在IID和非IID数据分布下均表现出色。
    • 客户端参与比例:不同客户端参与比例下,Rope-Door的ASR不受影响。
    • 触发器位置:触发器位于图像中心时,攻击效果最佳,但位于其他位置时,Rope-Door最终也能达到高ASR。

结论与意义

本研究提出的Rope-Door方法通过基于全局模型的触发生成算法,显著提高了后门数据投毒攻击的鲁棒性和持久性。即使在使用拜占庭容错聚合算法的情况下,Rope-Door仍能有效实施攻击。这一研究不仅揭示了联邦学习中的安全漏洞,还为设计更安全的联邦学习系统提供了重要参考。

研究亮点

  1. 创新性:Rope-Door首次提出基于全局模型的触发生成算法,避免了随机触发器的局限性。
  2. 鲁棒性:在多种拜占庭容错聚合算法下,Rope-Door表现出色。
  3. 持久性:仅一次投毒即可在后续轮次中保持高攻击效果。
  4. 广泛适用性:在不同数据分布、客户端参与比例和触发器位置下,Rope-Door均表现出色。

其他有价值的内容

本研究还通过可视化展示了触发器训练过程,直观地呈现了触发器在训练中的变化及其对图像分类的影响。这为理解后门攻击机制提供了直观的支持。

Rope-Door为联邦学习中的后门攻击研究提供了新的视角和方法,具有重要的学术价值和实际应用意义。

上述解读依据用户上传的学术文献,如有不准确或可能侵权之处请联系本站站长:admin@fmread.com