本文档属于 类型a：单篇原创研究报告。

学术报告：动态自组织的多智能体协作框架——SelfOrg

一、 研究团队与发表信息

本研究由匿名作者团队完成，目前以《Stochastic Self-Organization in Multi-Agent Systems》为题，作为会议论文提交至ICLR 2026，正处于双盲评审阶段。因此，作者姓名、所属机构及最终发表日期等信息暂未公开。

二、 学术背景与研究目标

本研究隶属于人工智能领域，具体聚焦于基于大语言模型（Large Language Model, LLM）的多智能体系统（Multi-Agent System, MAS）。尽管单个LLM在规划、分析、代码生成和对话等方面取得了显著进展，但仍存在生成结果随机、不可靠、产生幻觉以及难以处理长程多步骤任务等局限性。为此，研究者转向构建由多个LLM智能体组成的MAS，通过智能体间的交互、批判和精炼来提升整体性能。理论上，这种集体协作能够汇集互补的推理路径，超越单个模型的能力。

然而，实践中的性能提升高度依赖于智能体间的协作机制，尤其是通信结构的优化。现有方法大多存在不足：或依赖预设的固定拓扑结构（如链式、树状、全连接图），或使用预训练的图生成器来为每个任务/查询生成特定拓扑，或通过强化学习优化边连接，或引入外部LLM作为“裁判”来评估和决策。这些方法不仅增加了系统的复杂性、计算开销和训练成本，而且其核心假设——存在一个针对任务类别甚至单个查询的“最佳”静态拓扑——存在根本性缺陷。由于LLM智能体本质上是随机的，同一智能体对相同查询在不同运行中可能产生不同响应。因此，基于静态任务标签或问题身份设计的拓扑结构可能是脆弱的，无法适应智能体在特定时刻的真实响应状态。

基于此，本研究提出了一种全新的视角：通信模式应即时地、以当前响应为条件进行动态决定。研究团队旨在开发一种去中心化、轻量级、无需外部裁判或预训练拓扑生成器的多智能体协作框架。该框架的核心目标是：在智能体响应具有高度随机性（尤其是当底层LLM能力较弱时）的场景下，能够自动识别并放大其中正确的响应信号，同时抑制噪声，从而实现稳健的性能提升。为此，他们提出了名为 SelfOrg 的框架。

三、 研究流程与方法详述

SelfOrg框架的工作流程是一个迭代的动态过程，主要包含以下几个核心步骤：

1. 去中心化初始化： * 研究对象与样本量： 系统包含 n 个智能体（在实验中默认设置为4或5个）。每个智能体 a_n 实例化一个后端LLM（可以是同构或异构模型）。 * 处理与实验方法： 给定用户查询 q，每个智能体独立生成自己的初始响应 r_n^(0)。在此轮协作中，智能体之间不进行任何通信。随后，使用一个轻量级的句子嵌入模型（如all-MiniLM-L6-v2）将每个文本响应 r_n^(0) 映射为一个固定维度的语义嵌入向量 r_n^(0)。这些嵌入向量为后续的贡献度估计和图构建提供了基础表示。

2. 贡献度估计： * 研究方法与算法： 为了量化每个智能体对集体响应的贡献，研究借鉴了合作博弈论中的沙普利值（Shapley Value） 概念。然而，精确计算沙普利值需要指数级的计算量。为此，研究采用了一种高效的线性近似策略。 * 具体流程： 首先，计算所有智能体响应嵌入向量的平均值 r_avg。然后，将每个智能体 a_n 的近似贡献度 ψ_n 定义为它的响应嵌入 r_n 与平均嵌入 r_avg 的余弦相似度：ψ_n = cos(r_n, r_avg)。直观上，这衡量了单个智能体的响应与集体响应中心的语义对齐程度。论文中的定理1和推论1从理论上证明了该近似方法的误差边界，并保证了在智能体贡献度差异足够大时，近似值能保持贡献度的相对排序稳定性。

3. 通信图构建： * 算法细节： 此步骤的目标是基于当前轮次的响应，为下一轮协作构建一个有向无环通信图（Directed Acyclic Graph, DAG）。具体算法（见论文Algorithm 2）如下： a. 计算成对相似度： 计算所有智能体响应嵌入两两之间的余弦相似度矩阵 S，其中 s_n,m = cos(r_n, r_m)。 b. 激活候选边： 对于每个智能体 a_n，考虑从其他智能体 a_m 指向它的边 e_m→n。该边被激活的条件是：(i) 语义相似度 s_n,m 超过一个预设阈值 τ；(ii) 源智能体 a_m 的贡献度 ψ_m 高于目标智能体 a_n 的贡献度 ψ_n。此外，为了进一步稀疏化，可以限制每个智能体只接收来自其k个最相似邻居的边。 c. 打破循环确保DAG： 上述步骤形成的图可能包含循环。为确保信息流的稳定性和无环性，系统会检测图中的循环，并在循环中移除从贡献度较低的智能体指向贡献度较高的智能体的边。 d. 生成拓扑序： 对最终形成的DAG进行拓扑排序，得到智能体的处理顺序 π，贡献度高的智能体通常位于上游。 * 研究意义： 这种图形成机制是“自组织”的核心。图结构不是预先设定的，而是根据智能体产生的实际响应内容动态涌现的。贡献度高的智能体成为信息源（类似自发选举的领导者），信息沿着DAG从高贡献节点流向低贡献节点。

4. 响应传播与聚合： * 工作流程： 在下一轮协作中，智能体按照拓扑序 π 依次被激活。每个智能体 a_n 会接收到其所有入边邻居（即上一轮中贡献度高且语义相似的智能体）在上一轮的响应。这些响应被整合到 a_n 的提示词中，a_n 在此基础上生成新的响应 r_n^(new)。位于DAG根节点的智能体（贡献度最高者）可以基于自己上一轮的响应进行自我反思和精炼。 * 多轮迭代： 上述步骤（贡献度估计 -> 通信图构建 -> 响应传播）可以进行多轮（实验中发现通常两轮即可：第一轮探索，第二轮巩固）。 * 最终答案生成： 在最后一轮协作结束后，并非重新生成答案，而是从现有的最终响应集合中选择。首先，计算所有智能体最终响应嵌入的贡献度加权质心：r_centroid = Σ (ψ_n * r_n) / Σ ψ_n。然后，选择其响应嵌入与这个质心最接近的智能体的答案作为系统最终输出。

5. 概率建模与理论分析： * 研究方法： 为了从理论上解释SelfOrg为何能在弱模型场景下放大正确信号，研究进行了概率分析。 * 核心内容： 研究提出了两个关键机制：(i) 多数效应：即使每个智能体独立回答正确的概率 p 不高，随着智能体数量 n 增加，至少有两个智能体同时正确的概率会迅速增长（引理1）。(ii) 聚类假设：正确响应的语义嵌入倾向于紧密聚类，而错误响应则分散开来（基于图2的实验观察，形成假设1）。在此假设下，引理2证明了正确智能体的贡献度 ψ_n 将始终高于错误智能体。 * 结论（推论2）： 只要系统中有至少两个智能体输出了正确响应，这些正确响应就有极大概率获得高贡献度评分。因此，动态构建的通信图会优先引导来自正确智能体的信息流，从而实现正确性放大。

四、 主要研究结果

实验部分在多个标准推理基准上进行了广泛验证，包括数学（MATH, GSM8K, AIME等）、科学（GPQA）和知识（MMLU, MMLU-Pro）领域，并使用了从1.5B到72B参数规模不等的多种LLM作为后端。

1. 弱后端场景下的显著优势： * 支持数据： 表1展示了使用Qwen-2.5-1.5B（弱模型）的结果。所有现有的多智能体基线方法（DyLAN, MACNet, G-Designer, AgentVerse, AutoGen）的平均准确率集中在33%-37%左右，表明它们在利用弱智能体协作方面能力有限。相比之下，SelfOrg取得了45.05%的平均准确率，显著优于所有基线，也比单智能体提示（41.24%）和思维链提示（41.18%）高出近4个百分点。 * 结果解释： 这一结果强有力地证实了研究的核心假设：当响应嘈杂且正确性稀疏时，一个以响应为条件、自适应调整的通信图能够提供必要的放大机制，从而提升正确信号、抑制噪声。这直接验证了框架在最具挑战性的弱智能体编排场景下的有效性。

2. 强后端场景下的持续竞争力： * 支持数据： 表2展示了使用Llama-3.3-70B和Qwen-2.5-72B等强大模型的结果。对于Llama-70B，SelfOrg取得了70.19%的平均准确率和最佳的平均排名（1.25），超越了所有基线。对于Qwen-72B，SelfOrg同样取得了最佳平均排名（1.38）和最高的平均准确率（68.95%）。 * 结果解释： 这表明SelfOrg不仅适用于弱模型，在面对强大的单智能体（其本身已有很高可靠性）时，仍能通过多智能体协作提供互补的改进，证明了其方法的普适性。

3. 模型尺寸缩放规律： * 支持数据： 图3和对应表格展示了不同尺寸的Qwen-2.5模型在AQUA-RAT和MMLU-Pro基准上的表现。 * 结果解释： 在弱到中等规模（1.5B, 3B, 7B）上，SelfOrg带来的性能提升最为显著。随着模型规模增大，提升幅度减小，在最大的72B模型上，在AQUA-RAT上的收益几乎消失。这符合理论预期：当基础模型已经足够强大时，智能体间的一致性所提供的额外信号有限，多智能体协作的边际收益递减。但重要的是，SelfOrg从未导致性能大幅下降。

4. 异构智能体池的鲁棒性： * 支持数据： 研究测试了由不同架构的7B模型（Qwen, Falcon, Llama, Mistral）组成的异构智能体池。如表4所示，这些模型能力差异很大。在随机选择单个模型的基线设置下，在AQUA-RAT上准确率为53.94%。而SelfOrg将准确率提升至66.14%。 * 结果解释与逻辑关系： 图4右侧的贡献度排名分布显示，能力最强的Qwen和次强的Falcon主导了高排名，而较弱的Llama和Mistral则多处于低排名。这表明SelfOrg的贡献度估计机制能够有效识别并赋予强智能体更高影响力，同时从弱智能体中提取有用的信号（当它们与强智能体响应对齐时），从而实现了超越随机基线的性能，并接近最强单智能体的水平。这验证了框架在复杂、非均匀智能体环境下的实用性。

五、 研究结论与价值

本研究提出了SelfOrg，一个创新的、基于响应条件化贡献度估计与自适应图形成的LLM多智能体协作框架。其核心贡献在于摒弃了对外部裁判、预训练图生成器或强化学习的依赖，实现了轻量级、自组织的团队结构。

• 科学价值：

  1. 理论贡献： 将合作博弈论中的沙普利值概念创造性地应用于多智能体系统的实时贡献评估，并提供了高效近似的理论保证。通过概率建模，从理论上阐释了多智能体交互如何以及为何能够放大正确信号。
  2. 方法论创新： 提出了“响应条件化”的通信拓扑设计新范式，挑战了“每任务/每查询最优静态图”的传统假设，强调了适应智能体实时状态的重要性。
  3. 对MAS领域的推动： 为构建更自适应、更稳健、更高效的多智能体系统提供了一种全新的、原则性的解决方案。

• 应用价值：

  1. 降低部署门槛： 无需训练额外的元模型或图生成器，减少了计算资源消耗和系统复杂性，使得高性能的多智能体协作更容易在资源受限的场景下部署。
  2. 提升弱模型效用： 在无法获得顶级大模型的场景下，通过巧妙的编排多个中小型模型，有望实现接近甚至超越大型单体模型的性能，具有很高的成本效益。
  3. 增强系统鲁棒性： 能够自动处理异构智能体池，并在智能体输出存在随机性和噪声时保持稳定性能，提高了实际应用的可靠性。

六、 研究亮点

1. 核心创新点： 动态、响应条件化的通信图自组织机制。这是本研究最根本的突破，使系统能够根据每次运行中智能体的具体表现实时调整协作结构，而非依赖任何预先定义的静态蓝图。
2. 高效贡献评估： 采用基于余弦相似度的沙普利值线性近似方法，在保证理论性质（排序稳定性）的同时，实现了计算复杂度从指数级到线性的降低，且无需调用额外的LLM作为裁判。
3. 理论联系实际： 研究不仅提出了实用的算法框架，还通过严谨的概率模型和引理，深刻揭示了该方法在弱后端 regime 下生效的内在机理（正确响应的聚类效应与贡献度主导），使工作兼具工程实用性和理论深度。
4. 广泛的实证验证： 在涵盖不同难度、不同领域、不同模型规模与异构性的广泛基准测试中，一致且显著地证明了SelfOrg的有效性，尤其是在现有方法失效的弱模型场景下表现突出。

七、 其他有价值内容

• 消融实验与参数分析： 附录中的实验探讨了智能体数量、是否每轮重构通信图、嵌入模型选择等因素的影响，为实际应用中的参数调优提供了指导。
• 效率考量： 研究对比了SelfOrg与基线方法的令牌消耗，表明其通信开销是可控的，并且提出了一个更高效的变体（Efficient SelfOrg），通过减少每轮的活跃智能体数量来进一步节省成本。
• 开源与可复现性： 研究方法基于公开基准（MASLab），并提供了详细的配置说明（如智能体角色模板、超参数设置），有利于学术界的复现和后续研究。