CORAL:面向开放性发现的自主多智能体进化框架 CORAL: Towards Autonomous Multi-Agent Evolution for Open-Ended Discovery
自主多智能体进化框架用于开放性发现
前置知识
开放性发现
开放性发现是指最优解未知,需要通过迭代搜索发现越来越好的候选解的问题类型。任务实例由任务描述 x 和评估器 E 指定,评估器会对候选解 y 返回分数 s 和辅助反馈 f。这种方法适用于数学发现、算法设计和系统优化等场景,因为这些问题没有唯一正确答案,只有越来越好的解决方案。
理解开放性发现是理解 CORAL 框架的基础,因为 CORAL 正是针对这类问题设计的,其核心目标就是让智能体在不知道最优解的情况下,通过持续搜索和知识积累来发现越来越好的解决方案。
进化算法
进化算法是一类受生物进化启发的优化方法,通过选择、交叉、变异等操作,在候选解空间中搜索最优解。在 LLM 驱动的进化中,LLM 被用作变异算子,基于之前的高分解生成新的候选程序。这种方法将 LLM 嵌入到评估器引导的进化循环中,模型根据先前的成功解决方案提出候选,外部评估器在特定目标下执行并评分这些候选,预定的进化算法控制父代选择和种群更新。
理解进化算法有助于理解 CORAL 与现有方法(如 FunSearch 和 AlphaEvolve)的区别。这些现有方法都遵循固定进化搜索范式,而 CORAL 的创新在于将进化算法的决策权从固定规则转移给自主智能体。
持久化内存
持久化内存是指在智能体之间共享的、可以长期存储和检索的知识存储系统。CORAL 将共享持久化内存结构化为文件系统,包含三个根文件夹:attempts/ 记录历史评估和解决方案,notes/ 记录所有智能体的观察、学习和反思,skills/ 记录可重用的过程、工具、脚本和实现模式。智能体可以通过 CORAL CLI 工具或 Bash 工具访问和贡献到这个共享文件系统。
理解持久化内存是理解 CORAL 多智能体协调机制的关键。不同于传统多智能体系统依赖直接通信,CORAL 的智能体通过共享持久化内存间接协调,使得一个智能体的发现可以影响另一个智能体的未来搜索。
异步执行
异步执行是指多个智能体同时运行但不依赖固定同步点的执行模式。在 CORAL 中,每个智能体维护自己的本地上下文,在隔离的工作空间中执行,同时通过符号链接共享对同一评估器和共享持久化内存的访问。这种设计允许每个智能体自由工作而不受干扰,通过在共享工作空间写入工件来间接影响其他智能体的上下文。
理解异步执行有助于理解 CORAL 如何在不依赖预定义角色或通信结构的情况下实现多智能体协作。这种组织方式增加了探索多样性,允许智能体同时追求不同的局部方向,同时仍然受益于共享积累。
研究动机
现有的 LLM 驱动进化方法严重依赖固定启发式和硬编码的探索规则,这限制了 LLM 智能体的自主性。以 FunSearch 和 AlphaEvolve 为代表的系统遵循固定进化搜索范式,关键搜索决策独立于智能体,包括检查和构建哪些父解决方案、何时运行中间测试,以及外部化和重用哪些知识。在 CORAL 作者的实验中,固定进化搜索基线(如 OpenEvolve)在 Anthropic 内核工程任务上达到了 2740 周期的最佳结果,改进率仅为 3%(12 次改进 / 363 次评估),这意味着 97% 的评估都没有产生改进,造成了大量计算资源的浪费。这种刚性策略在复杂问题中尤为突出,因为最优探索选择往往是问题本身的一部分。
本文的目标是本文提出 CORAL 框架,旨在将进化搜索的决策权从固定算法转移给自主智能体,通过共享持久化内存、异步多智能体组织和基于心跳的干预来支持开放性问题上的自主多智能体进化。具体目标包括:第一,建立自主进化作为开放性发现的独特范式,区分自主单智能体和多智能体进化与先前的固定进化搜索;第二,在数学、算法和系统优化任务上展示 CORAL 相对于固定进化搜索基线的优势;第三,通过消融研究和轨迹分析验证知识积累和多智能体进化的重要性。
与已有工作不同的是,本文的独特切入角度在于提出了从固定进化搜索到自主多智能体进化的完整演进路径。虽然已有工作在单个方面(如自主智能体或多智能体协作)取得了进展,但 CORAL 首次将这些整合成一个统一的框架,专门针对开放性问题。不同于 AI Scientist 和 AI Co-Scientist 等系统依赖人工任务分解和固定角色分配,CORAL 允许智能体通过共享持久化内存自主决定如何探索和协作,这种水平扩展而非垂直扩展的方式更适合开放性问题,因为在这些问题中最优分解和交互拓扑是未知的。
核心方法
CORAL 框架的整体思路是将进化搜索的四个阶段(RETRIEVE、PROPOSE、EVALUATE、UPDATE)从固定规则控制转移到智能体自主控制,并通过共享持久化内存实现多智能体协调。框架包含三个核心机制:第一,共享持久化内存作为文件系统,让智能体可以检索和贡献知识,形成累积式的知识库;第二,异步多智能体组织,每个智能体在隔离的工作空间中执行,通过共享工作空间间接协调;第三,基于心跳的干预,定期提示智能体进行自我反思和重定向,避免陷入局部最优。技术路线是从固定进化搜索开始,逐步增加智能体自主性,最终实现完全自主的多智能体进化。
CORAL 的核心创新点在于将进化算法的决策权从固定算法转移到智能体本身,并通过共享持久化内存实现多智能体协作。与现有方法相比,CORAL 的本质区别在于智能体不再是变异算子的被动执行者,而是能够自主决定检索什么、何时验证中间结果、如何应对失败以及保留什么知识以供重用的主动决策者。这种自主性在数学优化任务上带来了 3-10 倍更高的改进率,在系统优化任务上减少了 10 倍的评估次数。另一个本质区别是多智能体协调方式,CORAL 不依赖预定义角色或直接通信协议,而是通过共享持久化内存实现技术扩散、自发共识和交叉引用等涌现行为。
方法步骤详情
CORAL 方法包含四个完整步骤。第一步是 RETRIEVE:智能体从共享持久化内存构建工作上下文。与固定进化搜索使用预定义选择规则不同,CORAL 智能体自主决定检查哪些历史尝试和知识。第二步是 PROPOSE:智能体基于任务描述和工作上下文生成候选解。智能体可以规划、实现和测试,而不仅仅是基于给定上下文生成。第三步是 EVALUATE:获取分数和反馈。智能体自主决定何时调用评估器,而不是遵循固定循环。第四步是 UPDATE:将新信息整合到共享持久化内存中。智能体自主决定存储什么知识,包括创建笔记和技能。这四个阶段在固定进化搜索中由外部规则控制,而在 CORAL 中由智能体自主控制其时机和实现。
技术新颖性
CORAL 的技术新颖性体现在三个方面。第一,提出自主进化作为开放性发现的独特范式,这是首次系统性地将进化算法的决策权从固定规则转移到智能体本身。第二,设计了基于文件系统的共享持久化内存,这种设计既保持了与智能体工作空间的一致性,又提供了渐进式信息披露,节省智能体上下文。第三,引入了三种类型的心跳机制:每次迭代的反思心跳鼓励智能体在工作期间记录有用笔记,定期整合心跳在固定次数的尝试后触发,提示智能体审查进度、组织和提炼积累的笔记,并蒸馏可重用的过程到技能中,停滞触发的重定向心跳在智能体多轮没有改进时激活,提示其重新评估当前方向并决定是否继续、修改策略或转向不同的搜索路线。这种心跳机制在长期搜索中促进了显式记忆形成并减少了短视的局部搜索。
实验结果
CORAL 在数学和系统优化任务上显著优于固定进化搜索基线,在全部 11 个任务上都达到了最佳最终分数,在 8 个任务上建立了新的最先进结果。与最强基线 EvoX 相比,CORAL 的改进率高 3-10 倍,通常在 5-20 次评估内收敛,而固定进化搜索方法需要 60-100 次。多智能体协同进化进一步推动了性能边界,在压力测试问题上表现尤为突出:在内核工程任务上,4 个协同进化的智能体将最佳分数从 1363 推进到 1103 周期,实现了 20% 的增益;在多格骨牌问题上,协同进化实现了 5.0% 的分数提升。多智能体收益不仅来自额外计算:单智能体运行表现出更高的每次评估改进率,但协同进化通过探索更多样的搜索轨迹获得了更好的最终分数。使用完全开源栈的实验表明,多智能体收益并非专有模型独有,这意味着协作优势来自协同进化机制本身而非模型特定能力。机制分析显示,本地验证和知识积累与性能密切相关:在内核工程任务上,本地执行的尝试改进率为 17%,而平均为 9%;使用跨智能体父代的尝试在内核工程上改进率为 17%,而所有尝试为 9%,且多数新记录(66%)来自跨智能体父代。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| 内核工程 | 最佳周期(越低越好) | 1103 周期(4 智能体) | 1363 周期(已知最佳) | 19.1% 提升 |
| 内核工程 | 改进率 | 9%(4 智能体) | 3%(OpenEvolve) | 3 倍提升 |
| 内核工程 | 评估次数 | 596 次(4 智能体) | 363 次(OpenEvolve) | 需要更多评估但最终分数更好 |
| 多格骨牌 | 分数(越高越好) | 84.2(4 智能体) | 80.2(1 智能体) | 5.0% 提升 |
| 圆打包 | 最终分数 | 2.6360 | 2.6359(SOTA) | 0.04% 提升,新 SOTA |
| 信号处理 | 最终分数 | 0.8229 | 0.8171(EvoX) | 0.71% 提升,新 SOTA |
| Erdos 最小重叠 | 最终分数(越低越好) | 0.38089 | 0.38088(SOTA) | 0.03% 提升,新 SOTA |
| 云广播 | 延迟(越低越好) | 618.4 | 623.5(EvoX) | 0.82% 提升,新 SOTA |
| 所有数学和系统优化任务 | 平均改进率 | 显著更高(3-10倍) | OpenEvolve/ShinkaEvolve/EvoX | CORAL 浪费更少的评估在无生产性候选上 |
局限与改进
作者承认了几个局限性。第一,CORAL 的性能增益依赖于强大的基础模型,作者使用了 Claude Opus 4.6 和 MiniMax M2.5,但没有测试更弱的模型;第二,所有实验都没有提供网络搜索,虽然在多格骨牌问题上启用网络搜索后达到了新 SOTA(89.4),但论文报告的结果是无网络搜索版本,这可能低估了 CORAL 的潜力;第三,论文没有提供详细的统计显著性检验,虽然报告了 4 次独立试验的平均结果,但没有给出方差或置信区间;第四,虽然代码开源,但复现需要访问专有模型(Claude Opus 4.6)和特定的评估环境,这可能限制可复现性;第五,CORAL 在 PrisM 任务上没有改进,所有方法都达到了相同的最终分数 26.26,作者指出这是因为 PrisM 依赖评估器生成的随机测试,本地测试率低(0%),使得 CORAL 的本地验证优势无法发挥。
独立分析的弱点
CORAL 存在几个独立分析的弱点。第一,评估资源消耗较大,在内核工程任务上 4 智能体需要 596 次评估,而 OpenEvolve 只需要 363 次,这意味着虽然 CORAL 最终分数更好,但评估成本更高,这在评估成本高昂的场景中可能是一个问题。改进方向可以是引入更智能的评估调度,让智能体更早识别有前景的候选,减少无效评估。第二,多智能体协作可能导致知识污染,一个智能体的错误知识可能影响其他智能体,这在作者提到的未报告的实验中可能是一个问题。改进方向可以引入知识验证机制,只有经过验证的知识才能进入共享内存。第三,心跳机制的超参数需要针对不同任务调整,例如定期整合心跳的触发间隔需要根据任务复杂度调整,这增加了框架的使用难度。改进方向可以是自适应心跳机制,让智能体自主调整心跳频率和类型。第四,CORAL 对工作空间管理要求较高,需要隔离的工作空间和符号链接,这在某些环境中可能难以实现。改进方向可以提供更灵活的内存抽象,支持不同类型的存储后端。
未来方向
作者提出了几个未来研究方向。第一,扩展 CORAL 以支持更多类型的评估器,包括那些需要长时间运行或外部调用的评估器,目前 CORAL 主要关注可以快速反馈的评估器。第二,探索更复杂的多智能体协作模式,例如分层智能体组织或动态角色分配,目前 CORAL 使用的是平等的智能体组织。第三,研究长期搜索进程中的智能体漂移问题,虽然心跳机制提供了一些缓解,但智能体可能仍然会在长时间运行后失去焦点或偏离目标。第四,利用更强大的多智能体协作模型,例如将 CORAL 与 AI Co-Scientist 等系统集成,结合自主进化和结构化协作的优势。基于 CORAL 的成果,可以延伸的研究方向包括:将 CORAL 应用于更广泛的开放性问题,如科学发现、药物设计和材料科学;探索跨任务知识转移,让一个任务上学到的技能可以迁移到其他任务;研究人类在环协作模式,让人类专家可以与智能体共同探索问题空间;开发更强大的知识表示和推理能力,让智能体不仅存储显式知识,还能进行隐式知识推理和泛化。
复现评估
CORAL 的代码已在 GitHub 上开源(https://github.com/Human-Agent-Society/CORAL),这为复现提供了基础。然而,完全复现论文结果存在几个挑战。第一,单智能体实验使用了 Claude Code + Opus 4.6,这是一个专有模型,需要访问权限和付费。第二,多智能体实验使用了 MiniMax M2.5 + OpenCode,虽然 MiniMax M2.5 是开源的,但 OpenCode 的访问可能受限。第三,评估器环境需要特定的设置,例如内核工程任务的 GPU 环境和多格骨牌问题的 Frontier-CS 基准。第四,论文没有提供详细的超参数配置,例如心跳机制的触发间隔、工作空间大小限制等。第五,论文报告的结果是基于 4 次独立试验的平均,但没有提供随机种子或详细的试验配置。总体而言,虽然有开源代码,但完全复现论文结果需要访问专有模型和特定的评估环境,复现难度较高。对于无法访问专有模型的用户,可以使用开源模型(如 MiniMax M2.5)来验证 CORAL 的核心思想,但可能无法达到论文报告的性能水平。
论文图表
Figure 1 展示了三种 LLM 驱动的开放性发现范式的对比:固定进化搜索、自主单智能体进化和自主多智能体进化。表格列出了每个范式的四个阶段(Retrieve、Propose、Evaluate、Update)的实现方式,底部标注了三个范式从固定搜索到完全自主的演进过程。固定进化搜索中,检索上下文由固定规则选择,模型从给定上下文提出,评估由固定循环触发,更新由固定规则控制。自主单智能体进化中,智能体自主选择要检查的内容,智能体规划、实现和测试,智能体决定何时评估,智能体决定存储什么。自主多智能体进化中,多个智能体并行提出,每个智能体安排自己的评估,智能体写入共享内存。
这张图对理解论文至关重要,因为它清晰地展示了 CORAL 与现有方法的核心区别。通过对比三种范式,读者可以直观地理解从固定进化搜索到自主多智能体进化的演进路径,以及 CORAL 在每个阶段的创新。