分享自:

联邦学习中本地模型投毒攻击的防御与攻击框架

期刊:ieee transactions on dependable and secure computingDOI:10.1109/tdsc.2024.3353317

这篇文档属于类型a,即报告了一项原创研究的科学论文。以下是基于文档内容生成的学术报告:


作者与发表信息
本研究的作者为Harsh Kasyap(学生会员,IEEE)和Somanath Tripathy(高级会员,IEEE),均来自印度理工学院帕特纳分校(Indian Institute of Technology Patna)。研究发表于2024年9月/10月的《IEEE Transactions on Dependable and Secure Computing》第21卷第5期。

学术背景
本研究的主要科学领域为联邦学习(Federated Learning, FL)中的安全与隐私问题。联邦学习是一种分布式机器学习范式,允许多个客户端在本地数据上训练模型,同时保护数据隐私。然而,恶意参与者可能通过本地模型投毒攻击(Local Model Poisoning Attacks)破坏全局模型的性能。尽管现有的拜占庭鲁棒聚合规则(Byzantine-Robust Aggregation Rules)能够防御数据投毒攻击,但模型投毒攻击逐渐变得更加复杂和自适应,能够针对特定聚合规则进行攻击。因此,本研究旨在提出一种通用的模型投毒攻击框架,并设计一种新的防御机制,以应对这些攻击。

研究流程
1. 问题定义与攻击框架设计
本研究首先提出了一种名为SINE(Similarity Is Not Enough)的通用模型投毒攻击框架。SINE利用余弦相似度(Cosine Similarity)的漏洞,通过生成与良性更新相似但具有恶意行为的向量,增加了攻击的影响。SINE的设计目标是使全局模型无法收敛,并保持攻击的持久性。
- 攻击流程:SINE通过计算恶意模型更新与良性更新之间的余弦相似度,生成与良性更新相似但方向相反的向量。攻击者通过调整余弦相似度缩放因子(γc)和范数缩放因子(γn)来控制攻击的强度和隐蔽性。
- 实验对象:研究在多个数据集(如MNIST、Fashion-MNIST、CIFAR-10、CINIC-10和CIFAR-100)上进行了实验,使用不同的学习分类器(如卷积神经网络CNN和ResNet-101)和攻击设置(如5%、10%和20%的恶意参与者)。

  1. 防御机制设计
    为了应对SINE攻击,本研究提出了一种新的防御机制FLTC(FL Trusted Coordinates)。FLTC通过选择可信坐标并根据其与基准模型更新的方向和幅度变化进行聚合,有效防御了包括自适应模型投毒攻击在内的多种攻击。

    • 防御流程:FLTC使用超球面方向余弦(Hyper-Spherical Direction Cosine)计算每个参与者本地更新与基准更新之间的相似度,并根据多数原则修剪不可信坐标。
    • 实验验证:FLTC在多种攻击设置下进行了评估,结果表明其能够将攻击影响限制在2%-4%的范围内。
  2. 实验与结果分析

    • 攻击评估:SINE在多种数据集和攻击设置下进行了广泛实验,结果显示其对现有防御机制(如FedAvg、Multi-Krum、Trimmed-Mean、DNC、ROMOA和FLTrust)具有显著的攻击效果。例如,在Fashion-MNIST数据集上,SINE对FLTrust的攻击影响达到了20%-30%。
    • 防御评估:FLTC在多种攻击设置下表现优异,尤其是在复杂数据集(如CIFAR-100)上,其攻击影响被限制在2%-4%的范围内。

主要结果
1. SINE攻击框架:SINE成功利用了余弦相似度的漏洞,生成了与良性更新相似但具有恶意行为的向量,显著增加了攻击的影响。实验结果表明,SINE对现有防御机制的攻击效果显著优于其他攻击框架(如Fang、LIE、Min-Max和Min-Sum)。
2. FLTC防御机制:FLTC通过选择可信坐标并修剪不可信坐标,有效防御了多种攻击。实验结果表明,FLTC在复杂数据集和攻击设置下表现优异,将攻击影响限制在较低水平。

结论与意义
本研究揭示了现有基于相似度度量的拜占庭鲁棒聚合方案的漏洞,并提出了一种通用的模型投毒攻击框架SINE。同时,本研究设计了一种新的防御机制FLTC,能够有效应对包括自适应攻击在内的多种攻击。SINE和FLTC的研究为联邦学习的安全性和鲁棒性提供了重要贡献,具有较高的科学价值和应用价值。

研究亮点
1. 攻击框架的创新性:SINE是首个利用余弦相似度漏洞的通用模型投毒攻击框架,能够绕过现有防御机制。
2. 防御机制的有效性:FLTC通过结合余弦相似度和坐标级聚合,显著提高了防御能力。
3. 实验的广泛性:研究在多种数据集和攻击设置下进行了广泛实验,验证了SINE和FLTC的有效性。

其他有价值内容
本研究还探讨了攻击和防御的时间复杂度,表明SINE和FLTC在计算效率上具有优势。此外,研究提出了针对FLTC的自适应攻击框架,进一步验证了其鲁棒性。


以上报告详细介绍了研究的背景、流程、结果、结论及亮点,旨在为其他研究者提供全面的参考。

上述解读依据用户上传的学术文献,如有不准确或可能侵权之处请联系本站站长:admin@fmread.com