基于蚁群优化的双层超参数搜索与神经架构搜索在去中心化联邦学习环境下的乳腺癌检测研究

一、作者及发表信息
本研究由Salabat Khan（巴基斯坦COMSATS大学伊斯兰堡分校计算机科学系与韩国济州国立大学大数据研究中心）、Fariha Nosheen、Syed Shehryar Ali Naqvi等多名学者合作完成，通讯作者为Salabat Khan与Do-Hyeun Kim（韩国济州国立大学）。论文发表于期刊*IEEE Access*，发表日期为2023年，DOI编号10.1109/ACCESS.2023.0322000。研究得到韩国国家研究基金会（NRF）的资助。

二、学术背景
乳腺癌是女性最常见的恶性肿瘤之一，全球范围内40岁以上女性发病率高达25%（WHO数据）。传统诊断依赖集中式医疗数据训练深度学习模型，但面临数据隐私、法规限制及数据稀缺等挑战。为此，研究团队提出结合去中心化联邦学习（Decentralized Federated Learning, DFL）与蚁群优化（Ant Colony Optimization, ACO）的方法，旨在实现跨医院协作的隐私保护型乳腺癌检测系统。研究目标包括：
1. 通过DFL实现医院间数据协作而不共享原始数据；
2. 利用ACO优化超参数（HPO）与神经架构搜索（NAS），提升模型性能；
3. 验证方法在乳腺X线摄影分类（正常/肿块、良性/恶性）中的有效性。

三、研究流程与方法
1. 去中心化联邦学习框架设计
- 架构拓扑：采用环形连接的智能医院边缘节点网络，每个节点配备独立的NAS-HPO模块（见图2）。
- 协作训练流程：
- 全局模型初始化：基于深度神经网络（DNN）构建初始模型（公式1），参数θ通过ACO生成。
- 本地训练：各医院客户端使用本地数据训练模型，通过反向传播更新参数（公式2），仅上传模型参数而非数据。
- 模型聚合：采用联邦平均算法（FedAvg，公式3）整合各节点参数，最小化全局损失函数（公式4）。
- 数据集：使用乳腺X线摄影数字数据库（DDSM），包含1024个感兴趣区域（ROI），均分至3个客户端，70%训练、30%测试。

1. ACO驱动的超参数与神经架构搜索
   
   • 搜索空间建模：将超参数（如隐藏层神经元数、学习率、动量）和NAS组件映射为图结构（图3），顶点代表参数取值范围。
     
   • ACO算法实现（算法1）：
     
     • 信息素加权：通过权重公式（公式5）评估路径质量，高性能解获得更高权重。
       
     • 迭代优化：蚂蚁根据信息素与启发式信息选择路径，更新规则如公式6所示，其中损失函数l指导信息素沉积。
       
   • 对比方法：与粒子群优化（PSO）、网格搜索对比，验证ACO优势。

四、主要结果
1. 性能提升
- 正常 vs. 肿块分类：优化后模型灵敏度92.6%、特异度93.0%、准确率93.0%，较未优化模型（82%）提升显著（图6）。
- 良性 vs. 恶性分类：灵敏度89.6%、特异度91.6%、准确率89.7%，较基线提升约10%（图8）。
- ACO vs. 其他方法：ACO全局准确率（98%）优于PSO（92%）和网格搜索（88%）（图9-10）。

1. 协作训练效果
   
   • 联邦学习模型在外部测试集上表现优于单医院本地模型，验证了DFL在数据异构性下的鲁棒性。
     
   • ACO优化使联邦模型收敛速度提升，通信成本降低。

五、结论与价值
1. 科学价值：
- 提出首个结合ACO与DFL的乳腺癌检测框架，解决了医疗数据隐私与模型性能的权衡问题。
- 证明了生物启发算法（ACO）在复杂参数搜索中的优越性，为自动化机器学习（AutoML）提供新思路。
2. 应用价值：
- 为智能医院网络中的分布式诊断系统提供可行方案，符合GDPR等数据保护法规。
- 代码开源（Python/PyTorch实现），可扩展至其他医学影像分类任务。

六、研究亮点
1. 方法创新：首次将ACO-NAS-HPO集成至DFL框架，实现端到端自动化优化。
2. 技术突破：设计加权信息素更新机制（公式5），提升ACO在非凸空间的搜索效率。
3. 临床意义：在DDSM数据集上达到临床可用的分类精度，为乳腺癌早期筛查提供AI辅助工具。

七、其他贡献
1. 公开了优化后的DNN架构参数范围（表1），如隐藏层5-20层、神经元数10-30等，可供后续研究参考。
2. 提出基于课程学习的联邦训练策略（引用[18]），缓解数据分布不均衡问题。