类型b：学术报告

本文档为欧洲网络与通信会议（European Conference on Networks and Communications & 6G Summit）2023年发表的学术论文，标题为《Research Challenges in Trustworthy Artificial Intelligence and Computing for Health: The Case of the PRE-ACT Project》。主要作者包括Foivos Charalampakos、Thomas Tsouparopoulos、Yiannis Papageorgiou等，来自雅典经济与商业大学（Athens University of Economics and Business）、瑞士西部应用科学与艺术大学（University of Applied Sciences and Arts of Western Switzerland）以及意大利Centai研究所。论文聚焦于欧盟地平线计划项目PRE-ACT（Prediction of Radiotherapy Side Effects Using Explainable AI for Patient Communication and Treatment Modification），探讨人工智能（AI）在医疗健康领域的可信计算挑战。

论文主题与背景
PRE-ACT项目旨在通过AI技术预测乳腺癌患者放疗后副作用（如手臂淋巴水肿、急性皮肤毒性等）的风险，并构建透明、公平且保护隐私的AI系统。项目背景源于医疗AI的两大矛盾：一方面，AI在医学影像分析、个性化治疗等领域潜力巨大；另一方面，其“黑箱”特性、数据偏见和隐私问题阻碍临床落地。论文围绕“可信AI”四大支柱展开：可解释AI（Explainable AI, XAI）、公平性算法（Fair AI）、联邦学习（Federated Learning, FL）和移动应用设计。

主要观点与论据

1. 可解释AI（XAI）在医疗决策中的必要性
   论文指出，复杂神经网络模型在医疗场景中缺乏透明度，而患者和医生需理解预测逻辑以建立信任。作者提出两类XAI方法：

   • 特征归因（Feature Attribution）：例如LIME（Local Interpretable Model-agnostic Explanations）算法，通过扰动输入数据生成局部可解释的替代模型，量化特征对预测的贡献。但此类方法易受对抗攻击，需结合联邦学习提升鲁棒性。
     
   • 规则提取（Rule Extraction）：将神经网络决策转化为命题规则（如“若特征A>阈值且特征B<阈值，则风险高”）。无序规则集（Unordered Rulesets）比有序规则更透明，但需平衡规则数量与可读性。
     支持案例：项目将XAI整合至临床试验，通过对照组（无解释）与实验组（提供解释）比较，验证解释性对患者生活质量的影响。

2. 公平性算法（Fair AI）应对临床数据偏见
   医疗数据常因人口统计差异（如年龄、种族）导致模型偏见。PRE-ACT设计公平性管理流程：

   • 数据分层：按保护属性（Protected Attributes）划分亚组，评估模型在各组的性能差异。
     
   • 可解释性辅助纠偏：结合XAI分析错误预测的驱动因素，指导数据收集或模型优化。
     理论依据：引用Obermeyer等（2019）研究，证明算法偏见可能加剧医疗不平等；Panigutti等（2021）提出Fair-Lens框架，通过量化指标审计黑箱模型。

3. 联邦学习（FL）实现隐私保护的分布式训练
   医疗数据分散且敏感，FL允许医院共享模型参数而非原始数据。论文提出两大挑战：

   • 个性化（Personalization）：非独立同分布（Non-IID）数据导致全局模型在本地表现不佳。解决方案包括客户特定参数分离（如Nikoloutsopoulos等2022年方法）和元学习（如MAML算法）。
     
   • 数据异构性（Data Heterogeneity）：特征缺失或类型差异需合成数据补充，但合成质量影响模型性能。作者建议开发聚合技术区分真实与合成数据权重。
     案例支持：引用Sheller等（2020）研究，证明FL在多机构医学影像分析中的有效性。

4. 移动应用作为医患交互界面
   项目采用协同设计（Co-design）开发患者与医生端应用，功能包括：

   • 后端架构：基于NoSQL数据库（如MongoDB）存储多模态医疗数据，Spark框架处理分布式查询，REST API实现安全通信。
     
   • 前端设计：患者端整合智能手表健康数据，医生端可视化风险预测。挑战在于界面适老化与解释适配（如按用户教育水平调整报告复杂度）。
     用户研究依据：Mirkovic等（2011）指出，用户对易理解的应用信任度更高。

论文价值与意义
1. 科学价值：系统提出医疗AI可信度的技术框架，涵盖解释性、公平性、隐私和用户体验，为后续研究提供方法论参考。
2. 应用价值：PRE-ACT项目若成功，可降低乳腺癌患者放疗副作用发生率，推动AI在临床决策中的实际落地。
3. 跨学科创新：融合计算机科学（如FL算法）、临床医学（如放疗数据）和社会科学（如公平性定义），体现欧盟多国合作的综合优势。

亮点
- 技术整合：首次在医疗项目中同步解决XAI、Fair AI、FL和移动应用四大挑战。
- 临床验证：通过随机对照试验量化解释性对治疗效果的影响，超越纯算法研究。
- 开源协作：项目数据来自欧洲多中心队列，代码与框架有望公开以促进社区发展。

（注：全文未提及的补充信息包括项目官网preact-horizoneurope.eu及资助方欧盟地平线计划编号101057746。）