类型b：

作者及机构：本文由Alysa Ziying Tan（来自新加坡南洋理工大学计算机科学与工程学院以及阿里巴巴-新加坡南洋理工大学联合研究院）、Han Yu（新加坡南洋理工大学计算机科学与工程学院）、Lizhen Cui（山东大学软件学院以及山东大学-南洋理工大学人工智能联合研究中心）、Qiang Yang（香港科技大学计算机科学与工程系及微众银行）共同撰写。论文发表于2022年的《IEEE Transactions on Neural Networks and Learning Systems》期刊。

论文主题：本文聚焦于个性化联邦学习（Personalized Federated Learning, PFL）的研究现状与发展方向，旨在系统性地解决联邦学习（Federated Learning, FL）在非独立同分布（Non-IID）数据上的核心挑战，并提出分类框架与未来研究方向。

主要观点与论述

1. 联邦学习（FL）的挑战与PFL的动机

联邦学习的核心目标是在保护数据隐私的前提下，通过分布式协作训练全局模型。然而，传统FL方法在以下两方面存在严重局限性：
- 非独立同分布数据的收敛性问题：在Non-IID数据下，客户端局部优化目标与全局目标不一致，导致“客户端漂移”（client drift），全局模型难以收敛。
- 缺乏个性化解决方案：单一全局模型无法适配不同客户端数据的异质性，例如医疗或移动键盘预测场景中用户数据的差异化分布。

支持证据：
- 实验表明，经典算法如FedAvg在Non-IID数据下准确率显著下降（如Zhao等人[2018]报道的30%性能落差）。
- 现实案例（如医疗数据跨机构协作）凸显了全局模型泛化能力不足的问题（Kaissis等[2020]）。

2. PFL的分类框架：两大策略与四类方法

作者提出一种新的分类法，将PFL方法分为：
1. 全局模型个性化（Strategy I）：先训练全局模型，再通过本地适配实现个性化。
- 数据驱动方法：通过数据增强（如生成对抗网络GAN[Jeong等2018]）或客户端选择（如基于强化学习的策略[Wang等2020]）减少数据异质性。
- 模型驱动方法：引入正则化（如FedProx的近端项）或元学习（如Per-FedAvg的MAML框架），优化全局模型的适配能力。

1. 个性化模型学习（Strategy II）：直接训练客户端专属模型。
   
   • 架构驱动方法：如参数解耦（将模型分为共享层与私有层[Arivazhagan等2019]）或知识蒸馏（FedMD支持异构模型架构[Li等2019]）。
     
   • 相似性驱动方法：利用客户端关系（如多任务学习MOCHA[Smith等2017]或聚类IFCA[Ghosh等2020]）提升个性化效果。
     

支持理论：
- 策略I的优化目标为全局模型最小化平均损失（公式1），而策略II通过混合本地与全局模型（如APFL的自适应插值）平衡个性化与泛化。
- 实验显示，相似性驱动方法（如FedAMP）在客户端数据相似时性能提升显著（准确率提升15%[Huang等2021]）。

3. PFL的评估与未来方向

当前局限：
- 现有实验多基于模拟Non-IID数据（如Dirichlet分布划分MNIST），缺乏真实场景验证。
- 评估指标单一，偏重准确率而忽视通信开销、公平性等维度。

未来研究方向：
1. 架构创新：探索神经架构搜索（NAS）优化模型设计，或结合持续学习（Continual Learning）解决客户端动态加入问题。
2. 可信PFL：研究公平性（如客户端数据量差异导致的偏见）、可解释性（XAI）与鲁棒性（对抗攻击防御）。
3. 开放协作机制：通过博弈论设计激励机制，促进自利数据所有者参与联邦学习。

价值体现：
- 理论层面：系统化PFL分类法填补了现有FL综述的空白（如Kairouz等[2021]未涵盖个性化问题）。
- 应用层面：为医疗、物联网等敏感数据场景提供隐私保护与个性化兼顾的解决方案。

论文意义与亮点

1. 首创性：首次提出基于挑战与策略的PFL分类框架（图1），涵盖数据、模型、架构与相似性四类方法。
   
2. 全面性：整合超100篇文献，横跨优化算法（如SCAFFOLD）、知识蒸馏（FedDF）及聚类（FedGroup）。
   
3. 前瞻性：指出PFL与边缘计算、可信AI的交叉研究方向，推动领域可持续发展。
   

（注：本文为综述，故未涉及具体实验流程与数据细节，但通过引用大量文献（如21篇关键论文）支撑论点。）