分享自:

基于参数重要性的联邦学习系统模型中毒攻击研究

期刊:computers & securityDOI:10.1016/j.cose.2024.103936

本文档属于类型a,即单篇原创研究的学术报告。以下是基于文档内容生成的详细报告:


作者与机构
本研究的作者包括Xuan Li、Naiyu Wang、Shuai Yuan和Zhitao Guan。Xuan Li和Naiyu Wang来自华北电力大学控制与计算机工程学院,Shuai Yuan来自加拿大布鲁克大学金融、运营与信息系统系,Zhitao Guan是华北电力大学的教授。该研究于2024年6月4日在线发表在《Computers & Security》期刊上,文章编号为103936。

学术背景
本研究的主要科学领域是联邦学习(Federated Learning, FL)系统的安全性,特别是针对联邦学习系统的模型投毒攻击(Model Poisoning Attacks)。联邦学习是一种在隐私敏感场景下训练机器学习模型的分布式解决方案,但其本地训练过程难以监督,因此容易受到投毒攻击。现有的模型投毒攻击通常针对所有参数,导致模型显著修改,容易被统计相似性检测机制发现。为了提高攻击的隐蔽性和有效性,本研究提出了FedIMP,一种基于参数重要性的无目标模型投毒攻击方法。该研究旨在揭示联邦学习系统的关键漏洞,并为开发更强大的防御策略提供见解。

研究流程
本研究包括以下几个主要步骤:
1. 参数重要性评估:使用Fisher信息评估每个参数的重要性,并选择重要性高的参数进行投毒。具体来说,研究者通过本地数据集计算每个参数的Fisher信息,并根据重要性生成二进制掩码,确定哪些参数需要被投毒。
2. 恶意增强系数计算:将无目标投毒攻击建模为一个优化问题,通过算法推导出最优的恶意增强系数,使得攻击能够绕过防御机制并最大化攻击效果。研究者使用二分搜索法动态调整增强系数,确保攻击的隐蔽性和有效性。
3. 恶意更新生成:根据二进制掩码和最优增强系数生成恶意更新,并将其上传到参数服务器。恶意更新的生成过程旨在使全局模型偏离其最优方向,同时避免被检测到。
4. 实验验证:在Fashion-MNIST和CIFAR10数据集上,使用不同规模的卷积神经网络(CNN)模型进行实验,评估FedIMP的攻击效果。实验对比了FedIMP与现有投毒攻击方法在多种聚合算法(如FedAvg、Multi-Krum和Bulyan)下的表现。

主要结果
1. 参数重要性评估的有效性:实验表明,基于Fisher信息的参数重要性评估能够显著提高攻击效果。与随机选择参数的方法相比,FedIMP在相同的投毒比例下对模型性能的破坏更为显著。
2. 恶意增强系数的优化:通过动态调整增强系数,FedIMP能够在多种聚合算法下实现更高的攻击效果。例如,在CIFAR10数据集上,FedIMP对Multi-Krum和Bulyan的攻击效果分别达到13.11%和15.30%。
3. 攻击效果的比较:FedIMP在多个数据集和模型规模下均表现出优于现有方法的攻击效果。特别是在FedAvg聚合算法下,FedIMP能够完全破坏联邦学习系统的性能,而其他方法的影响则较为有限。
4. 攻击的隐蔽性:FedIMP通过仅针对重要参数进行投毒,显著降低了攻击被检测到的概率。实验结果表明,FedIMP能够在保持隐蔽性的同时,最大化对全局模型的破坏。

结论
本研究提出的FedIMP方法通过引入参数重要性的概念,显著提高了无目标模型投毒攻击的隐蔽性和有效性。实验结果表明,FedIMP能够在多种聚合算法下有效破坏联邦学习系统的性能,同时避免被检测到。该研究揭示了联邦学习系统在投毒攻击面前的脆弱性,并为开发更强大的防御策略提供了重要见解。

研究亮点
1. 参数重要性的引入:FedIMP首次将参数重要性评估应用于模型投毒攻击,显著提高了攻击的隐蔽性和有效性。
2. 动态增强系数优化:通过将投毒攻击建模为优化问题,FedIMP能够动态调整增强系数,最大化攻击效果并绕过防御机制。
3. 广泛的实验验证:FedIMP在多个数据集和模型规模下进行了广泛实验,验证了其在多种聚合算法下的优越性能。

其他有价值的内容
本研究还探讨了不同因素对攻击效果的影响,包括投毒参数比例、被攻击者比例、参数重要性评估频率和辅助数据集大小。实验结果表明,投毒参数比例和被攻击者比例对攻击效果有显著影响,而参数重要性评估频率和辅助数据集大小的影响则相对较小。这些发现为进一步优化投毒攻击策略提供了重要参考。


以上报告详细介绍了本研究的背景、流程、结果和结论,并突出了其创新点和应用价值。

上述解读依据用户上传的学术文献,如有不准确或可能侵权之处请联系本站站长:admin@fmread.com