文档分析： 文档描述了针对联邦学习中个体贡献评估问题提出的一种名为FedACE的新颖方法。文中包含了摘要、引言、方法、实验、结论等完整结构，具体描述了研究背景、方法设计、实验验证过程及结果。这符合对一项原创性研究工作的详细报告。

报告内容：

一、 研究基本信息

本文题为“Rethinking Contribution Evaluation in Federated Learning from a Class-Level Perspective”。作者信息为匿名，机构与城市信息亦为匿名，标注为正在接受国际机器学习大会（International Conference on Machine Learning, ICML）评审的初步工作。

二、 学术背景与研究动机

本研究属于机器学习（Machine Learning） 领域下的联邦学习（Federated Learning, FL） 子领域。联邦学习允许多个参与者在不共享原始数据的情况下协作训练一个全局模型，这对于保护数据隐私至关重要。然而，在实际应用中，参与者持有的数据通常是非独立同分布（Non-IID） 且异质的，即在数据量、类别分布和质量上存在显著差异。传统的联邦学习聚合方法（如FedAvg）对所有参与者一视同仁，忽略了其贡献的内在差异。这不仅可能导致全局模型性能因次优权重分配而下降，也削弱了激励机制分配的公平性，可能打击高质量贡献者的积极性。因此，对个体贡献进行准确且公平的评估，是提升联邦学习系统性能和公平性的关键。

现有的贡献评估方法主要依赖于模型级（Model-level） 评估，即利用服务器端的辅助测试集来评估每个参与者本地模型的整体质量，或比较本地模型与全局模型的相似度。然而，这些方法存在以下主要缺陷：1) 依赖外部测试集的质量；2) 计算成本高昂，尤其是基于沙普利值（Shapley Value）的方法需要评估大量参与者子集；3) 评估粒度粗放，仅提供模型层面的总体贡献，无法揭示参与者内部不同类别（Class）数据的贡献差异。一个参与者即使对某些特定类别拥有高质量数据，也可能会因为其他类别的数据质量差而在模型级评估中被低估。这种粗粒度的评估既损害了贡献评估的可靠性，也与公平性目标相悖。

针对上述问题，本文旨在提出一种新的贡献评估框架。研究的目标是超越模型级评估，从类别层面（Class-level） 出发，设计一个无需辅助测试集、计算高效、且能提供细粒度、可解释贡献归因的方法。核心思想是利用“原型（Prototype）”来捕捉数据的本质特征，并通过计算原型间的相似性来量化贡献。

三、 研究方法与详细工作流程

本文提出了一个名为 FedACE（Federated Averaging with Class-level contribution Evaluation） 的框架。其核心工作流程可分为客户端（参与者）本地处理和服务器端全局评估两个阶段，整体架构如图2所示。总训练轮数为T，每轮随机选择K名参与者加入训练。研究在多个标准图像数据集（FashionMNIST, EuroSAT, CIFAR-10, CIFAR-100）上进行验证，采用ResNet20模型，数据通过狄利克雷分布（Dirichlet distribution）模拟非独立同分布设置。

1. 客户端本地处理 * 本地训练与表征提取： 每轮训练开始，参与者从服务器接收最新的全局模型参数和全局类别原型（后文详述）。本地训练结合了交叉熵损失和一个新的类别约束损失（Class Constraint Loss） 。后者通过最小化本地样本表征与其对应类别的全局原型之间的欧氏距离，来对齐本地特征表示，减少异构数据导致的表征漂移。总损失为两者加权和。在训练初期（热身阶段），仅使用交叉熵损失以稳定模型。训练完成后，参与者使用本地模型的特征提取器，为每个类别提取其所有样本的深度特征表示。 * 表征聚类与原型生成： 由于同一类别内的样本其特征也可能存在差异（如视角、光照等），直接取平均会丢失多样性信息。为此，作者引入 FINCH（First Integer Neighbor Clustering Hierarchy） 这一无需预设聚类数的快速无监督聚类算法，对每个类别的所有特征表示进行聚类。FINCH能够基于样本的“第一邻居”关系递归地合并最近邻，自动发现特征空间中的自然簇。聚类后，每个簇有一个中心（质心）。对于每个类别，将计算其所有簇中心的数量加权平均，得到该参与者在该类别的最终本地类别原型（Local Class Prototype）。加权依据是各簇包含的样本数，样本数多的簇被认为包含更核心、稳定的语义模式。最后，参与者将更新后的本地模型参数和计算出的所有类别原型上传至服务器。

2. 服务器端全局评估 * 全局原型聚合： 服务器收集本轮所有参与者的类别原型。对于每个类别，服务器将该类别下所有参与者上传的原型进行平均，得到本轮该类的“当前全局原型”。为了平滑训练过程中的波动并利用历史信息，服务器采用指数移动平均（Exponential Moving Average, EMA） 机制，将当前全局原型与上一轮的全局原型进行加权融合，生成最终用于下一轮分发的全局类别原型（Global Class Prototype）。这一机制有助于稳定原型演化，对抗数据漂移。 * 基于沙普利值的类别贡献评估： 这是FedACE的核心创新。服务器为每个类别独立计算参与者的贡献。对于某个特定类别c，服务器考虑本轮参与训练的所有参与者组成的集合。传统沙普利值需要计算该集合下所有可能的参与者子集（2^K个）的“效用（Utility）”，计算复杂度是指数级的。FedACE的创新在于： * 效用函数定义： 效用不再是在测试集上的模型准确率，而是基于原型计算。对于任意一个参与者子集S，服务器将该子集中所有参与者关于类别c的原型再次进行聚合（更细粒度的聚类中心聚合），得到“子集聚合原型”。然后计算这个“子集聚合原型”与“全局类别原型”之间的余弦相似度（Cosine Similarity） 作为该子集对于类别c的效用。余弦相似度关注向量的方向一致性，能避免欧氏距离对非语义幅度差异的敏感。 * 贡献计算： 基于上述效用函数，计算参与者k对于类别c的沙普利值。其含义是：在所有可能的参与者联盟顺序中，参与者k加入联盟所带来的类别c效用（即原型与全局原型相似度）的平均边际增益。这个值就是参与者k对类别c的细粒度贡献。 * 效率提升： 由于原型是低维向量（例如维度64），且评估是针对单个类别而非整个测试集进行，FedACE将复杂度从O(2^K * |模型| * |测试集|)大幅降低至O(2^K * |原型| * 1)。对于大规模场景，作者还提出了一个简化变体 FedACE-SV，直接计算每个参与者本地原型与全局原型的余弦相似度并进行归一化，作为其贡献近似值，将复杂度降至O(1)，牺牲一定精度换取极致效率。 * 模型聚合与贡献汇总： 服务器使用常规方法（如FedAvg）聚合参与者上传的模型参数，更新全局模型。同时，每一轮都会产生一个类别级的贡献矩阵。在完成所有T轮训练后，可以对每个参与者在每个类别上的贡献进行时间维度上的汇总（如求和或平均），得到最终的细粒度贡献画像。此外，通过对一个参与者的所有类别贡献进行加权求和，也可以得到其模型级的总体贡献，用于激励分配等。

四、 主要实验结果

研究通过大量实验验证FedACE在类别级公平性、模型级公平性、对全局模型性能的影响、鲁棒性等方面的有效性。

1. 类别级公平性评估： * 评估指标： 由于在标准数据集上，参与者对某类别的贡献与其持有该类别的样本数量高度正相关，因此使用KL散度（Kullback-Leibler Divergence） 来衡量评估得到的类别贡献分布与真实的类别数据量分布之间的差异。KL散度越小，说明评估越准确公平。 * 实验结果： 在FashionMNIST、EuroSAT、CIFAR-10、CIFAR-100四个数据集上，对比了最相关的类别级基线方法ShapFed和Label Shapley。如表1所示，FedACE在所有数据集上的平均KL散度均显著低于基线方法。可视化结果（图3）也显示，无论是从全局看各类别的总贡献分布，还是从单个参与者看其内部各类别的贡献分布，都与实际数据分布高度一致，证明了FedACE的准确性、公平性和可解释性。

2. 模型级公平性评估： * 评估指标： 将FedACE得出的模型级总体贡献（由类别贡献加权得到）与两种“真实”分布进行比较：1) 参与者总数据量分布；2) 理论上精确但计算成本极高的“真实沙普利值（Truth SV）”（在完整测试集上计算）。 * 实验结果： 如图4（左）所示，与多种主流模型级贡献评估方法（如TMR、CGSV、GTG、ComFedSV、SPACE、ShapFed）相比，FedACE在与两种真实分布的KL散度对比中均表现最优。同时，其计算时间成本（图中红线）远低于多数基于沙普利的传统方法，显示了高效性。

3. 对全局模型性能的影响： * 实验设置： 将每轮评估出的贡献作为权重，对参与者的模型更新进行加权聚合，观察最终全局模型的准确率。 * 实验结果： 如图4（右）所示，在CIFAR-10非独立同分布设置下，使用FedACE贡献权重进行聚合的全局模型准确率，显著高于使用CGSV和ShapFed贡献权重的方法。这说明FedACE评估出的贡献能更有效地指导模型聚合，提升最终模型质量。

4. 消融研究： * 实验设置： 验证FedACE各核心组件的必要性，测试了三个变体：去除类别约束损失（FedACE-CL）、将FINCH聚类替换为简单平均（FedACE-Finch）、将沙普利值计算替换为直接原型相似度（FedACE-SV）。 * 实验结果： 如图5雷达图所示，移除任何组件都会导致KL散度增大（性能下降）。其中，移除FINCH的影响最大，说明捕捉类内多样性对生成可靠原型至关重要。移除沙普利值次之，说明精确计算边际贡献比简单相似度更优。移除类别约束损失也会影响原型质量。

5. 异构与噪声环境下的鲁棒性： * 异构数据： 在不同异质程度（δ参数）下进行实验。如表2所示，随着异质性增强，FedACE的评估准确度（KL散度）和基于其加权的模型准确率均保持稳定且优于基线，证明了其对数据分布差异的鲁棒性。 * 噪声数据： 模拟参与者某个类别的数据质量差（加入噪声）的场景。如图6（左）所示，FedACE能准确识别出参与者的噪声类别，并赋予其较低的贡献值。同时，由于全局原型对本地训练的约束作用，FedACE修正了噪声数据的更新方向，使得在噪声环境下，基于FedACE贡献加权的模型性能（图6右）不仅更高，而且波动更小。

五、 研究结论与价值

本研究的主要结论是：提出的FedACE框架能够有效、高效、公平地进行联邦学习中的贡献评估，特别是在细粒度的类别层面。

• 科学价值：

  1. 范式创新： 首次系统性地提出了从“模型级”评估转向“类别级”评估的研究范式，为解决异构联邦学习中的细粒度贡献归因问题开辟了新方向。
  2. 方法创新： 创造性地将“原型学习”、“无监督聚类（FINCH）”与“沙普利值”理论相结合。利用原型作为数据语义的紧凑表示，显著降低了沙普利值计算的维度，实现了理论严谨性与计算可行性的平衡。
  3. 理论贡献： 为基于原型的贡献评估提供了完整的框架，包括本地原型生成、全局原型聚合与平滑、以及基于原型相似度的沙普利值计算流程。

• 应用价值：

  1. 提升公平性与激励： 为联邦学习平台提供了透明、可解释的贡献评估工具。参与者不仅能获得总体贡献评分，还能了解自己在每个具体类别上的贡献，这有助于建立更精细、更公平的激励机制，吸引和留住高质量数据提供者。
  2. 优化模型性能： 基于类别贡献的权重可以用于指导更智能的模型聚合策略，例如对高质量类别赋予更高权重，从而潜在地提升全局模型的性能和收敛速度。
  3. 实用性强： 无需额外的测试数据集，通信和计算开销低（原型体积通常不到模型参数的0.1%），易于集成到现有联邦学习流程中，具备良好的可部署性。

六、 研究亮点

1. 细粒度与可解释性： 核心亮点在于实现了类别级别的贡献评估，提供了前所未有的评估粒度，使得贡献归因过程透明、可解释。
2. 无需外部测试集： 完全摆脱了对服务器端辅助测试集的依赖，消除了因测试集偏差或不可得带来的评估局限，更符合隐私保护严格的实际场景。
3. 计算效率高： 通过基于低维原型的效用计算，将传统沙普利值方法的指数级计算复杂度大幅降低，使精确的贡献评估在大规模联邦学习中变得可行。
4. 巧妙的组件融合： 将原型对齐损失（稳定本地表征）、FINCH聚类（捕捉类内多样性）、EMA机制（平滑全局原型）以及基于余弦相似度的沙普利值计算有机结合，形成了一个鲁棒且有效的完整解决方案。
5. 广泛的实验验证： 在多个数据集、多种异构设置、以及噪声和长尾数据等挑战性场景下进行了全面实验，充分证明了方法的有效性、鲁棒性和优越性。

七、 其他有价值内容

文档还包含了以下值得关注的讨论： * 威胁模型与隐私讨论： 作者坦承原型可能泄露数据分布信息，并探讨了可与FedACE结合使用的隐私增强技术，如安全聚合（Secure Aggregation）、原型裁剪（Clipping）或差分隐私（Differential Privacy）加噪，以及一个基于可信执行环境（TEE）的可选加密工作流设想，体现了对实际部署中隐私和安全问题的考量。 * 收敛性分析： 在附录中提供了FedACE收敛性的理论分析，在标准假设下证明了其全局目标函数能以O(1/t)的速率收敛到最优值，并从理论上分析了其在异构、长尾、噪声数据下的鲁棒性，增强了方法的理论基础。 * 局限性说明： 作者客观指出了当前工作的局限，例如假设参与者合规、对恶意原型操纵的直接防御不足、在超大规模（数千参与者）或高维文本/多模态场景下的扩展性有待未来工作验证等，展现了严谨的科研态度。