群体进化智能体：基于经验共享的开放式自我改进 Group-Evolving Agents: Open-Ended Self-Improvement via Experience Sharing
将智能体群组作为进化单元，通过组内经验共享实现开放式自我改进
前置知识
开放式自我进化（Open-Ended Self-Evolution）
指AI智能体能够自主修改自身的结构设计（如工作流、工具使用策略、提示词模板等），而不仅仅是在固定架构上优化参数。这种进化过程没有预设终点，持续产生新颖且有效的改进。现有方法如Darwin Gödel Machine (DGM)采用树状结构进化，每轮迭代选择单个父代智能体独立产生后代，不同进化分支之间完全隔离。
本文的核心贡献就是提出了一种全新的开放式自我进化范式（群体进化），理解现有树状进化方法的局限性是理解本文动机和创新点的前提。
Performance-Novelty选择策略
一种在进化算法中平衡利用（exploitation）和探索（exploration）的选择机制。性能（Performance）反映智能体当前的任务解决能力，新颖性（Novelty）衡量智能体与已知智能体的差异程度。通过计算每个智能体与K近邻（KNN）的平均余弦距离来量化新颖性，最终用公式 $\text{score}(i) = \alpha_i \cdot \sqrt{\text{nov}(i)}$ 综合排名。平方根操作使新颖性作为温和偏差，不压倒性能主导。
这是群体进化中选择父代群组的核心算法，直接决定了进化过程中多样性和性能的平衡，是理解方法的关键技术细节。
任务成功向量（Task-Success Vector）
将每个智能体表示为一个二值向量 $\mathbf{z}_i \in \{0, 1\}^D$，每个维度对应一个探测任务，值为1表示智能体成功解决该任务，0表示失败。通过余弦距离 $d(i, j) = 1 - \frac{\mathbf{z}_i^\top \mathbf{z}_j}{\|\mathbf{z}_i\|_2 \|\mathbf{z}_j\|_2 + \epsilon}$ 衡量两个智能体的能力差异。这种表征方式能够捕捉智能体在不同任务上的能力分布。
该向量是计算新颖性的基础，直接影响父代群组的多样性选择，是理解方法数学原理的必要概念。
进化轨迹（Evolutionary Traces）
记录智能体进化过程中的关键信息，包括四类：(i) 已应用的代码修改补丁；(ii) 对随机采样的未解决任务生成的预测补丁；(iii) 任务执行日志，包含完整的工具调用历史和执行工作流；(iv) 评估结果，暴露失败模式和改进方向。这些轨迹构成了智能体的进化经验。
进化轨迹是群体经验共享的数据基础，理解其组成是理解经验共享机制如何运作的关键。
元学习（Meta-Learning）
在本文语境中，元学习指智能体通过分析自身和他人的进化轨迹来学习如何改进自身框架的过程。与传统元学习不同，这里不是学习如何快速适应新任务，而是学习如何修改智能体的代码实现（工作流、工具、提示词）以提升任务解决能力。这是一种学习如何学习/改进的机制。
GEA通过元学习实现无人干预的自我改进，理解这一点对于认识本文贡献的本质非常重要——它不是简单的超参搜索，而是学会了如何进化。
SWE-bench和Polyglot基准测试
SWE-bench Verified是一个经过人工验证的软件工程基准，包含真实GitHub仓库的issue，要求智能体理解跨文件依赖并进行多文件协调修改。Polyglot评估多语言代码生成能力（C++、Rust、Java等），作为域外泛化测试，因为该基准很少用于训练或微调代码模型。两者代表不同复杂度的代码任务。
本文在这两个基准上进行了核心实验，理解这两个基准的任务性质和难度差异对于解读实验结果至关重要。
研究动机
现有的开放式自我进化系统主要受生物进化启发，采用以个体为中心的进化范式。以Darwin Gödel Machine (DGM)为代表的方法采用树状结构进化：每轮迭代选择单个父代智能体，独立产生一个后代，不同进化分支严格隔离。这种设计导致了一个严重问题：尽管进化过程中产生了大量探索多样性，但这些多样性很少成为有效的进步阶梯。许多智能体仅提供临时变异，产生短暂存在的变体，无法为长期累积进步做出贡献。实验数据显示，DGM在SWE-bench Verified上仅达到56.7%的通过率，在Polyglot上为68.3%，远未充分利用进化过程中发现的有价值创新。具体来说，DGM的最佳智能体仅整合了9个独特祖先的经验（占总群体的15.0%），多个在孤立分支中发现的工具级创新（如T4在第9次迭代中出现）因谱系隔离而无法传播。
本文的目标是本文的核心目标是提出一种新的开放式自我改进范式，将智能体群组（而非单个智能体）作为进化的基础单元。通过在群组内实现显式的经验共享和复用，使不同智能体在探索过程中发现的互补改进能够被系统性地整合和积累，从而将短暂的多样性转化为长期有用的进化经验。具体目标包括：(1) 在相同数量的进化智能体下，显著超越现有自进化方法的性能；(2) 实现跨不同代码模型的可迁移性；(3) 展现对框架级扰动的更强鲁棒性；(4) 通过元学习实现无人干预的自我改进，达到或超越人工设计的最先进框架。
与已有工作不同的是，本文的独特切入角度在于打破生物进化范式对AI智能体进化的约束。作者指出：AI智能体不是生物个体，为什么要让它们的进化受制于生物范式？AI智能体可以直接共享轨迹、工具和学习到的产物，可以聚合互补技能，不受繁殖或谱系的限制。这一洞察直接催生了群体进化的思想：将进化的基本单位从个体提升到群组。与现有方法的本质区别在于，现有方法虽然可以通过档案库（archive）存储历史智能体，但进化过程中信息流动是单向的（父代→后代），而GEA实现了群组内的双向信息流动——每个后代智能体都能从所有父代智能体的经验中学习。这种设计使得开放探索产生的多样性不再是临时变异，而是可以被系统性整合的进化资源。
核心方法
Group-Evolving Agents (GEA)的核心思想是将智能体群组作为进化的基本单元，而非单个智能体。整体技术路线如下：系统维护一个档案库，存储所有已发现的智能体。每轮迭代包含两个核心阶段：(1) 父代群组选择——使用Performance-Novelty策略从档案库中选择K个智能体组成父代群组，平衡即时性能和进化多样性；(2) 开放式群组进化——父代群组中的所有智能体共享各自的进化轨迹，每个智能体基于群组级共享经验进行反思、进化和评估，产生后代群组。这种群组级进化使得不同智能体探索到的互补改进能够被系统性整合，将临时多样性转化为长期有用的进化经验。
GEA的核心创新在于将进化的基本单位从个体提升到群组，并在进化过程中实现显式的群组内经验共享。与DGM等树状进化方法的本质区别在于信息流动模式：DGM中，父代智能体独立进化，反思模块只接收自身的进化轨迹；而在GEA中，父代群组中所有智能体的进化轨迹被聚合并共享给每个智能体作为反思输入。这意味着每个后代智能体都能学习到其他智能体在不同探索方向上的成功经验和失败教训。技术上，GEA收集四类进化轨迹（已应用补丁、预测补丁、执行日志、评估结果），将群组内所有智能体的轨迹聚合为共享经验池 $S = \bigcup_{a_j \in G} T_j$，每个智能体的反思模块 $\Delta_i \leftarrow \text{Reflect}(a_i; S)$ 接收完整的群组经验。这种设计使得进化过程中产生的多样性不再是孤立的临时变异，而是可以被整合利用的进化资源。
方法步骤详情
GEA的完整流程包括以下步骤：\n\n**阶段1：父代群组选择。** 输入档案库 $A$ 和所有智能体的任务成功向量 $\{\mathbf{z}_i\}$，计算每个智能体的新颖性 $\text{nov}(i) = \frac{1}{M} \sum_{j \in N_M(i)} d(i,j)$，其中 $N_M(i)$ 是M个最相似邻居的集合，$d(i,j) = 1 - \frac{\mathbf{z}_i^\top \mathbf{z}_j}{\|\mathbf{z}_i\|_2 \|\mathbf{z}_j\|_2 + \epsilon}$ 是余弦距离。然后按 $\text{score}(i) = \alpha_i \cdot \sqrt{\text{nov}(i)}$ 排名，选择前K个智能体组成父代群组 $G$。\n\n**阶段2：开放式群组进化。** 对群组中每个智能体 $a_i$，收集进化轨迹 $T_i = \{P_i^{\text{Applied}}, P_i^{\text{pred}}, L_i, O_i\}$。聚合所有轨迹为共享经验 $S$。每个智能体的反思模块分析共享经验生成进化指令 $\Delta_i$，进化模块生成框架级补丁 $\pi_i'$，行动模块评估更新后的智能体。通过编译检查和基本编码功能验证的智能体被添加到档案库。输出后代群组 $G'$ 和更新的档案库 $A$。\n\n**评估策略：** 采用分阶段评估，先在小型子集上筛选，通过的智能体再进入更大规模评估。SWE-bench使用10→50→完整数据集的三阶段流程；Polyglot使用10→50的两阶段流程。
技术新颖性
GEA的技术新颖性体现在多个层面。首先，在进化范式层面，它是首个将群组作为进化基本单元的开放式自我进化框架，突破了生物进化范式的限制，充分利用了AI智能体可以直接共享信息的独特优势。其次，在选择机制层面，将Performance-Novelty选择策略从个体选择扩展到群组选择，通过任务成功向量和KNN新颖性计算实现多样性的量化管理。第三，在信息流动层面，实现了进化过程中的双向信息流——不仅父代向后代传递信息，同一代的不同智能体也能通过共享经验池相互学习。第四，在经验整合层面，通过反思模块将分散在不同进化轨迹中的互补改进系统性地整合为框架级改进指令，避免了有价值创新因谱系隔离而丢失。第五，在技术实现层面，群组进化允许不同智能体对同一共享经验做出不同的适应性调整，既保持了探索多样性，又实现了经验的有效复用。
实验结果
GEA在两个核心基准上取得了显著超越现有自进化方法的性能。在SWE-bench Verified上，GEA达到71.0%的通过率，相比初始智能体（20.0%）提升了51个百分点，在相同进化智能体数量下显著优于DGM基线（56.7%），提升了14.3个百分点。在Polyglot上，GEA达到88.3%的通过率，相比初始智能体（38.2%）提升了50.1个百分点，大幅超越DGM基线（68.3%），提升了20个百分点。\n\n更令人瞩目的是，GEA的性能达到了甚至超越了人工设计的最先进框架。在SWE-bench Verified上，GEA（71.0%）接近OpenHands + GPT-5（71.8%）；在Polyglot上，GEA（88.3%）大幅超越Aider + GPT-5（52.0%），提升了36.3个百分点。这意味着通过元学习实现的自我改进已经能够匹配甚至超越人类精心设计的系统。\n\n进化分析揭示了GEA成功的关键机制。GEA的最佳智能体整合了17个独特祖先的经验（占群体的28.3%），几乎是DGM最佳智能体（9个祖先，15.0%）的两倍。在9个关键工具级创新中，GEA整合了8个，而DGM仅整合了5个。缺失的4个工具在DGM的孤立分支中被发现（如T4在第9次迭代出现），但因谱系隔离而无法传播。\n\n在鲁棒性测试中，GEA平均仅需1.4次迭代即可修复注入的框架级bug，而DGM需要5次迭代，展现了群组内经验共享在故障修复中的巨大优势。\n\n模型迁移实验表明，GEA的最佳智能体在不同代码模型（GPT系列和Claude系列）上均保持优于初始智能体的性能，验证了改进的模型无关性。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| SWE-bench Verified（软件工程基准） | Pass Rate | 71.0% | 56.7% (DGM自进化基线) | 提升14.3个百分点，相对提升25.2% |
| Polyglot（多语言代码生成） | Pass@1 | 88.3% | 68.3% (DGM自进化基线) | 提升20.0个百分点，相对提升29.3% |
| SWE-bench Verified（vs人工设计框架） | Pass Rate | 71.0% | 71.8% (OpenHands + GPT-5) | 接近人工设计最优（差0.8个百分点） |
| Polyglot（vs人工设计框架） | Pass@1 | 88.3% | 52.0% (Aider + GPT-5) | 大幅超越，提升36.3个百分点 |
| 框架级Bug修复鲁棒性 | 平均修复迭代数 | 1.4次 | 5.0次 (DGM自进化基线) | 修复速度提升约3.6倍 |
局限与改进
尽管GEA取得了显著成果，但本文存在以下局限性： 首先，计算成本较高。GEA每轮迭代需要评估K个智能体（K=2），虽然总迭代次数（SWE-bench 30次，Polyglot 20次）少于DGM基线（分别为60次和40次），但每轮的计算量更大，因为需要收集和处理群组内所有智能体的进化轨迹并进行共享反思。此外，SWE-bench的最终10轮使用Claude Sonnet 4.5，前期使用Claude Haiku 4.5，这种模型调度是否会影响公平比较值得商榷。 其次，群组规模K=2相对较小，仅在两个智能体间进行经验共享。更大的群组是否能带来更好的效果？文中未进行充分的群组规模消融实验。此外，KNN新颖性计算中的M=4和性能-新颖性权重也是经验性选择。 第三，评估基准的局限性。SWE-bench虽然具有挑战性，但主要评估的是补丁生成能力；Polyglot的单文件编辑任务相对简单。在更复杂的软件工程场景（如大规模系统重构、多团队协作）中，群体进化的优势是否依然显著尚不明确。 第四，可解释性不足。虽然论文展示了工具级创新的整合过程，但对于每个智能体的具体进化轨迹和反思过程缺乏深入分析。群组经验共享如何影响反思质量的机制尚不清楚。 最后，作者在Impact Statement中也承认，开放式探索可能引入偏离人类意图的方向，消耗大量计算资源，或产生结构不清晰的补丁，导致系统越来越复杂难以完全理解。
独立分析的弱点
本文存在以下具体弱点： **群组规模固定且较小。** K=2的群组规模可能过小，限制了经验共享的多样性。在复杂的编码任务中，可能需要更大的群组来覆盖足够的探索方向。建议进行群组规模的消融实验（K=3, 4, 8等），分析群组大小与性能、计算成本之间的关系。 **新颖性计算依赖任务成功向量。** 二值向量表征虽然简单有效，但可能丢失了任务完成质量的细粒度信息（如部分完成、修复程度等）。建议探索更丰富的智能体表征，如使用任务完成度的连续值、代码质量指标等。 **缺乏与更多基线的比较。** 除了DGM和人工设计框架外，未与其他自我改进方法（如Reflexion、Self-Refine等）进行比较，难以全面评估群体进化的相对优势。 **反思模块固定使用GPT-o1。** 反思模块在整个进化过程中始终使用GPT-o1，未探索反思模型选择对进化质量的影响。不同能力的反思模型可能产生质量差异很大的进化指令。 **进化分析主要关注工具级创新。** 论文的进化分析主要聚焦于9个工具级功能的发现和整合，对于工作流改进、提示词策略优化等其他类型的进化改进分析不足。 **模型迁移实验的局限。** 迁移实验仅在GPT和Claude系列模型上进行，未覆盖开源模型或其他商业模型，迁移性的普适性有待验证。
未来方向
基于本文成果，未来研究可以在以下方向展开： **动态群组规模调整。** 探索自适应群组规模机制，根据进化阶段、档案库多样性和任务复杂度动态调整K值。在进化初期使用较大群组促进多样性，后期使用较小群组聚焦优化。 **层次化经验共享。** 当前的经验共享是扁平的（所有轨迹平等地共享），可以探索层次化结构，如按任务类型、改进类型或智能体能力进行分组，实现更精准的经验匹配。 **跨任务域迁移。** 本文聚焦代码生成任务，群体进化的范式可以扩展到其他任务域，如自然语言处理、科学推理、多模态任务等，验证其通用性。 **与强化学习结合。** 当前的进化依赖反思模块的定性分析，可以引入强化学习机制，将进化过程建模为马尔可夫决策过程，通过奖励信号更系统地引导进化方向。 **更大规模的群组进化。** 探索K=10甚至更大规模的群组进化，研究群体动力学特性，如是否会出现智能体专业化分工、群组内竞争与合作的平衡等现象。 **进化可解释性。** 深入分析群组经验共享如何影响反思质量和进化方向，建立进化轨迹与性能提升之间的因果关系。 **人类-群体协作。** 探索如何将人类反馈融入群体进化过程，引导进化方向与人类意图对齐，解决Impact Statement中提到的对齐问题。
复现评估
从复现角度来看，本文的复现存在以下特点和挑战： **代码和数据。** 论文未明确提及是否开源代码和数据。SWE-bench Verified和Polyglot都是公开基准，数据可获取。但GEA的实现细节（如反思模块的提示词模板、进化模块的补丁生成策略、评估流水线的具体配置）可能需要大量工程工作来复现。 **算力需求。** 复现成本较高。SWE-bench需要30次群组迭代，每迭代评估2个智能体；DGM基线需要60次迭代评估1个智能体。每次评估需要在SWE-bench的完整数据集上运行代码修改，计算开销巨大。此外，使用了Claude Haiku 4.5、Claude Sonnet 4.5和GPT-o1等多个商业模型，API调用成本不菲。 **超参数敏感性。** K=2、M=4、Performance-Novelty权重等超参数是经验性选择，不同设置可能导致显著不同的结果。论文未提供超参数敏感性分析，增加了复现的不确定性。 **分阶段评估策略。** 三阶段评估（10→50→完整数据集）的设计选择可能影响结果，不同阶段的阈值设置（如Polyglot的40%通过率阈值）需要精确复现。 **模型版本依赖。** 论文使用了Claude Haiku 4.5、Claude Sonnet 4.5和GPT-o1等特定版本的模型，这些模型可能随时间更新或下线，长期复现存在风险。建议使用开源模型替代进行验证。 总体而言，复现难度较高，需要大量计算资源和多个商业模型的API访问权限，但核心算法逻辑相对清晰，具备理论可复现性。
论文图表
