分享自:

FedDP:双重个性化的联邦医学图像分割方法

期刊:IEEE Transactions on Medical ImagingDOI:10.1109/TMI.2023.3299206

类型a:这篇文档报告了一项原创研究,因此需要撰写一份学术报告。

主要作者和机构及发表信息
本文的主要作者包括王家成(Jiacheng Wang)、金越明(Yueming Jin)、丹尼尔·斯托扬诺夫(Danail Stoyanov)和王连生(Liansheng Wang)。其中,王家成和王连生隶属于厦门大学计算机科学系、信息学院以及国家健康与医学数据科学研究院;金越明隶属于伦敦大学学院(University College London, UCL)的Wellcome/EPSRC介入与外科科学中心(WEISS)和新加坡国立大学生物医学工程系;丹尼尔·斯托扬诺夫隶属于UCL的WEISS和计算机科学系。该研究发表在《IEEE Transactions on Medical Imaging》期刊上,2024年1月第43卷第1期。

学术背景
本研究属于联邦学习(Federated Learning, FL)和医学图像分割领域。传统联邦学习(General Federated Learning, GFL)通过多个参与站点训练单一全局模型来解决数据隐私保护问题,但其在处理异构数据分布时表现不佳,可能导致不同站点间的性能偏差。个性化联邦学习(Personalized Federated Learning, PFL)通过为每个站点训练本地模型以适应独特的特征分布或预测模式,从而解决了这一问题。然而,现有的PFL方法大多基于卷积神经网络(Convolutional Neural Networks, CNNs),缺乏对长程依赖建模的能力,并且未充分利用站点间预测不一致性作为个性化指标。本研究旨在提出一种新的联邦学习框架FedDP(Federated Dual Personalization),从特征和预测两个层面提升个性化能力,从而提高医学图像分割性能。

详细工作流程
本研究包含以下主要步骤:

  1. 整体流程设计
    研究提出了一个双个性化联邦学习框架FedDP,包括特征级个性化和预测级个性化两部分。整体流程分为两个阶段:长程依赖个性化阶段和预测校准阶段。

  2. 长程依赖个性化(Local Query, LQ)
    在第一阶段,所有本地模型并行训练,各自解耦查询嵌入层(Query Embedding Layer)并仅在本地更新参数,而共享的键嵌入层(Key Embedding Layer)和值嵌入层(Value Embedding Layer)则通过云服务器进行参数平均后返回各站点。查询嵌入层代表每个像素的特定特征,而键嵌入层表示支持性特征。通过本地训练查询嵌入层,各站点能够探索其独特的长程依赖线索。

  3. 预测校准(Inconsistency-Guided Calibration, IGC)
    在第二阶段,每个站点收集所有本地模型并通过一次性通信计算站点间的预测不一致性。具体而言,对于每个样本,通过比较本地模型和其他站点模型生成的分割图,计算像素级不一致性。研究设计了一种新的损失函数,通过增加对不一致区域的监督来优化模型。IGC无需额外推理成本,且显著提升了预测个性化能力。

  4. 实验对象与处理
    实验在两个公开医学图像分割数据集上进行:EndoPolyp(息肉分割任务)和RIF(视盘/视杯分割任务)。EndoPolyp数据集包含来自四个医疗中心的2187个样本,而RIF数据集包含来自四个临床站点的1000多个样本。所有图像均被调整为384×384分辨率。

  5. 数据分析流程
    数据分析包括定量评估和定性评估。定量评估使用Dice系数(Dice Score)和平均对称表面距离(Average Symmetric Surface Distance, ASSD)两项指标,分别衡量区域分割精度和边界分割精度。定性评估通过可视化分割结果展示模型性能。此外,研究还进行了消融实验以验证各组件的有效性,并通过对比实验评估了不同超参数的影响。

主要结果
1. 定量结果
- 在EndoPolyp数据集上,FedDP在所有站点均取得了最佳的Dice分数和ASSD分数,相较于其他PFL方法有显著提升。特别是在样本量较少的站点C,FedDP带来了最大的性能改进。
- 在RIF数据集上,FedDP同样在所有站点取得了最佳分数,尤其是在边界区域的分割精度上有显著提升。

  1. 定性结果

    • 可视化结果显示,FedDP在复杂场景中能够更准确地识别病变位置并分割边界,而在简单场景中也能通过改进模糊边界的处理进一步提升精度。
    • 与其他方法相比,FedDP在处理高度相似目标(如视盘和视杯)时表现出更强的边界感知能力。
  2. 消融实验结果

    • 使用自注意力网络(Self-Attention Networks, SANs)显著提升了分割精度,证明了SANs在捕捉长程依赖方面的优势。
    • LQ组件在两个数据集上分别提升了2.6%和1.08%的Dice分数,而IGC组件在EndoPolyp数据集上进一步提升了1.78%的Dice分数和0.99的ASSD分数。
  3. 效率分析

    • FedDP在推理时间上与基线方法FedAvg相同(17.79毫秒),但在传输成本上显著优于其他方法。

结论及其意义
本研究提出的FedDP框架通过双个性化策略显著提升了医学图像分割性能。特征级个性化通过本地查询嵌入层实现,增强了长程依赖建模能力;预测级个性化通过IGC算法利用站点间预测不一致性,优化了边界区域的分割精度。研究不仅在理论层面丰富了联邦学习和医学图像分割领域的知识体系,还在实际应用中提供了高效且个性化的解决方案,具有重要的科学价值和应用前景。

研究亮点
1. 创新性方法
- 提出了首个结合长程依赖个性化和预测个性化的方法,填补了现有PFL方法在自注意力网络中的空白。
- 设计了高效的IGC算法,无需额外推理成本即可显著提升性能。

  1. 优异的实验结果

    • 在两个公开数据集上均取得了最佳性能,证明了FedDP的普适性和鲁棒性。
  2. 高效的设计

    • 在保持推理效率的同时降低了传输成本,适合实际部署。

其他有价值内容
研究还探讨了FedDP在未见数据上的泛化能力和未来改进方向,为进一步研究提供了重要参考。

上述解读依据用户上传的学术文献,如有不准确或可能侵权之处请联系本站站长:admin@fmread.com