这篇文档属于类型a，即报告了一项原创性研究。以下是针对该研究的学术报告：
定制化联邦学习在多源分散式医学图像分类中的应用研究
作者及机构
本研究由Jeffry Wicaksana（香港科技大学电子与计算机工程系）、Zengqiang Yan和Xin Yang（华中科技大学电子信息与通信学院）、Yang Liu（清华大学人工智能产业研究院）、Lixin Fan（微众银行AI实验室）及Kwang-Ting Cheng（香港科技大学电子与计算机工程系）合作完成，发表于2022年11月的《IEEE Journal of Biomedical and Health Informatics》（第26卷第11期）。
科学领域与问题背景
研究聚焦于医学图像分析领域，核心挑战是数据隐私与分散性导致的模型性能受限。传统联邦学习（Federated Learning, FL）通过协作训练全局模型解决数据共享问题，但全局模型可能因客户端数据分布差异（如医疗机构间扫描协议、设备差异）而表现不佳。
研究动机与目标
作者提出定制化联邦学习（Customized FL, CusFL）框架，旨在为每个客户端训练完全个性化的模型，而非单一全局模型。其核心创新在于：
1. 特征对齐：仅共享特征提取层，避免分类器层的强制统一；
2. 选择性知识迁移：通过特征空间的知识蒸馏（Knowledge Distillation, KD），使客户端从联邦模型中筛选有用知识。
1. 网络分割与框架设计
- 模型结构：将深度网络分为特征提取器（Feature Extractor）和任务特定头（Task-specific Head），并引入投影头（2层MLP）将特征映射到低维空间（维度128），以保留客户端特异性信息。
- 联邦模型：仅包含特征提取器和投影头，不参与分类任务。
2. 两阶段训练流程
- 个性化模型更新：
- 损失函数：结合任务损失（交叉熵）和相似性损失（余弦相似度），动态调整权重（λ₁:λ₂=1:1）。
- 特征对齐：冻结联邦模型参数，通过相似性损失（公式3）引导客户端模型学习联邦特征的有用部分。
- 联邦模型更新：
- 采用FedAvg算法聚合各客户端的特征提取器参数（公式5），生成新一代联邦模型。
3. 实验验证
- 数据集：
- 前列腺癌分类：ProstateX（公开数据集，188例）和LocalPCA（私有数据集，135例）；
- 皮肤病变分类：HAM10000（4个数据源，共10,015张图像）。
- 评估指标：平衡准确率（ACC）和AUC，分私有测试（客户端本地数据）和公共测试（混合数据）两种场景。
- 对比方法：包括经典FL、MOE（输出空间混合）、SplitNN（参数空间混合）及MOON（对比学习）。
4. 创新方法
- 投影层设计：通过低维投影保留客户端特异性特征，实验证明其提升模型性能（表IX）。
- 联邦模型冻结机制：在个性化更新阶段冻结联邦模型参数，避免目标漂移（表X）。
1. 性能优势
- 前列腺癌分类：CusFL在2客户端设置下私有测试ACC达85.1%（比FL高6.2%），32客户端时仍保持稳定（表IV-V）。
- 皮肤病变分类：CusFL在64客户端设置下ACC为60%，显著优于FL的55%（表VII-VIII）。
2. 关键发现
- 特征对齐的有效性：相似性损失比MOON的对比损失更优（表IX），因后者假设本地更新必然劣化特征表示。
- 数据量影响：增加客户端数量（固定单客户端数据量）可提升性能（图6），验证了协作学习的必要性。
3. 与领域自适应结合
引入变体感知模块（Variation-Aware Module）后，CusFL在32客户端设置下ACC进一步提升7%（表XII-XIII），证明其兼容性。
科学价值
1. 个性化FL范式：首次提出通过特征空间知识蒸馏实现客户端定制化模型，突破传统FL的全局模型限制。
2. 医学图像应用创新：为多源异构医学数据（如癌症诊断）提供隐私保护的协作学习方案。
应用价值
- 临床激励：客户端模型性能始终优于本地训练（如前列腺癌分类ACC提升13.9%），增强医疗机构参与联邦的意愿。
- 技术普适性：框架独立于网络架构，可扩展至其他医学图像任务。
其他贡献
- 首篇医学PFL框架：填补了个性化联邦学习在医学图像领域的空白。
- 开源可能性：未明确提及代码公开，但方法描述详细，具备可复现性。
此研究为跨机构医学图像分析提供了兼顾隐私与性能的新思路，其框架设计和技术细节对后续联邦学习研究具有重要参考价值。