Yunjue Agent技术报告:面向开放任务的全可复现、零起点原位自进化智能体系统 Yunjue Agent Tech Report: A Fully Reproducible, Zero-Start In-Situ Self-Evolving Agent System for Open-Ended Tasks
提出原位自进化范式,通过工具动态合成与优化,使智能体在无监督开放环境中自主提升能力。
前置知识
原位自进化 (In-situ Self-Evolving)
指智能体系统在推理阶段,通过与环境的持续交互来自主更新其组件(如工具集、工作流、上下文),而无需外部监督信号或离线训练。系统将一系列任务查询视为连续的经验流,从中提炼出可复用的能力,实现能力的动态扩展和优化。这不同于传统的需要明确训练步骤的自进化方法,它强调在部署环境中的实时适应和学习。
这是本文提出的核心范式,理解它有助于把握论文与现有智能体进化方法(通常依赖离线训练或特定领域优化)的根本区别,即如何在没有真实标签的开放环境中实现真正的自主进化。
工具进化 (Tool Evolution)
作为原位自进化的关键路径,指智能体在面对新任务时,能够动态合成新的工具(如Python函数),并在执行后根据反馈对工具进行优化和重用。这个过程是迭代的,旨在扩展工具集的覆盖范围(广度)并提升工具的鲁棒性(深度)。系统通过一个吸收机制(Absorbing Mechanism)来合并功能相似的工具,防止工具空间膨胀导致的检索困难。
论文认为工具是智能体能力的基础。即使有强大的规划或记忆能力,缺乏合适的工具也会导致在新环境中‘计算瘫痪’。理解工具进化如何工作,是理解整个系统如何扩展能力边界的核心。
并行批量进化 (Parallel Batch Evolution)
为了平衡处理效率和知识共享,本文提出的一种策略。它将一批查询并行处理,每个查询独立合成工具,但共享全局工具库。批次处理完成后,通过一个吸收机制(聚类和合并)来整合所有新生成的工具,消除冗余,形成更新后的全局工具库。这类似于小批量梯度下降,通过平均来减少进化过程中的随机性。
该策略是解决顺序处理(缺乏可扩展性)和完全并行(牺牲共享学习)之间矛盾的关键创新,直接影响系统的进化效率和收敛稳定性,是论文方法高效运行的重要保障。
进化泛化损失 (Evolutionary Generality Loss, EGL)
本文提出的一个新颖指标,用于实时监控智能体进化的收敛性,其作用类似于传统优化中的训练损失。EGL定义为累积合成工具数与累积工具调用次数的比值:$EGL(t) \triangleq L_t = \frac{C_t}{U_t}$。该值与工具库的泛化能力呈负相关。初期值高表明快速积累,随着系统收敛,该值会逐渐稳定并趋近于零。论文证明了在一定条件下,EGL是单调下降并最终收敛的。
这个指标为评估智能体进化过程提供了一个量化、可监控的稳定性代理。没有它,很难判断进化是否以及何时达到了一个‘足够好’的状态,也无法像监控训练损失那样监控进化过程。
多智能体架构 (Multi-Agent Architecture)
本文实现Yunjue Agent的系统架构,包含多个具有特定角色的智能体:Manager(负责分析任务需求、协调工具)、Tool Developer(负责合成新工具)、Executor(负责使用工具执行任务)、Integrator(负责整合结果生成最终答案),以及用于批量同步的Aggregator和Merger。各智能体通过协作机制处理复杂查询,并支持运行时动态适应。
这种架构将工具管理、合成和任务执行解耦,是原位自进化得以高效、有序进行的实现基础。理解各角色的职责有助于理解系统的工作流程和自我修正机制。
研究动机
当前主流的智能体系统在处理开放环境中的任务时存在根本性缺陷。它们严重依赖于静态的工具集或离线的训练过程,导致其能力边界是刚性的。例如,一个预定义了网页搜索和代码执行工具的智能体,在遇到需要解析特定格式PDF或进行复杂数学符号运算的任务时,会因缺乏相应工具而失败,即使其底层的LLM具备相关知识。这种依赖静态设计的模式,使得智能体无法适应任务分布的持续漂移和外部监督信号的稀缺。在监督信号匮乏、任务语义不断变化的开放环境中,现有方法(如依赖离线训练的自进化方法或局限于狭窄领域的工具合成方法)要么需要真实标签,要么无法跨领域泛化,导致智能体在面对新挑战时表现脆弱,无法实现真正的自主适应和能力增长。
本文的目标是本文的具体目标是提出并验证一种全新的智能体进化范式——原位自进化(ISE),使基于LLM的智能体能够在没有外部监督、从零开始(zero-start)的条件下,在开放任务环境中自主地、持续地进化。具体而言,目标包括:1) 证明通过工具进化作为关键路径,智能体能够将短期执行反馈提炼为长期、可复用的能力;2) 设计一个高效的系统(Yunjue Agent)来实现这一范式,并通过并行批量进化策略优化进化效率;3) 提出一个有效的收敛监控指标(EGL),以量化评估进化过程的稳定性;4) 通过跨领域基准测试,验证该系统在零启动设置下超越现有商业基线的性能,以及积累的知识能够无缝迁移到新领域的能力。
与已有工作不同的是,与已有工作相比,本文的独特视角在于它抓住了几个被忽视的关键点。首先,现有自进化方法大多关注工作流优化、上下文管理或模型参数更新,而本文认为**工具集是通用智能体系统最基础且最具决定性的组件**。因为工具的功能是可验证的(程序要么成功要么抛出异常),这种强二元信号使得即使在没有人类干预的情况下也能实现自主纠错,因此工具是原位进化的最佳起点。其次,现有工具合成方法往往局限于特定领域(如软件工程、生物医学研究),且缺乏有效的工具重用和整合机制,导致工具库冗余、检索效率低下。本文提出的吸收机制(聚类与合并)直接解决了这一问题,确保了工具库的精简和泛化能力。最后,本文引入了EGL这一训练损失类比物,为进化过程提供了前所未有的可监控性和理论保证,这是先前工作所忽略的。
核心方法
本文的方法可以类比为一个不断学习和积累技能的工匠。最初,工匠只有一些基础工具(如锤子、螺丝刀)。面对一个新任务(比如修理一个精密仪器),如果现有工具不适用,工匠会根据任务需求现场打造一个专用工具(工具合成)。任务完成后,工匠会反思这个新工具的优缺点,进行打磨和优化(工具优化)。当处理过足够多类似任务后,工匠会将那些功能相似但细节不同的工具(比如几种不同尺寸的扳手)整合成一套更通用、更精简的工具(吸收机制)。随着时间的推移,工匠的工具箱会变得越来越强大和高效,能够应对更广泛的任务,而无需每次都从头学习。技术路线正是基于这一思想:系统接收一批查询,通过多智能体协作(Manager协调、Tool Developer合成、Executor执行),在执行过程中动态合成和调用工具。执行后,通过自我反思机制优化工具,并通过并行批量进化策略和吸收机制来整合工具,更新全局工具库。系统通过监控EGL指标来判断进化是否趋于收敛。
本文最核心、最本质的创新点在于**将工具视为知识结晶的载体,并提出了一个完整的、在推理阶段进行的、无需外部监督的工具进化框架**。这与已有方法形成了鲜明对比。已有自进化方法要么需要离线训练(如通过生成挑战性问题来更新模型参数),要么局限于狭窄领域(如只为特定软件工程任务生成工具),且大多缺乏对已生成工具的有效重用和整合机制。本文认为,在开放环境中,工具是能力扩展的基石,因为工具的执行结果提供了明确的、可验证的反馈(成功或失败),这种信号足以驱动自主学习和纠错。因此,系统聚焦于在运行时迭代地合成、优化和重用工具,而不是优化工作流或上下文。更进一步,本文提出的并行批量进化策略和吸收机制,解决了工具进化过程中的效率与冗余问题,确保了知识积累的稳定性和泛化能力。EGL指标的引入则赋予了这一过程类似传统机器学习训练的可监控性和理论收敛保证。
方法步骤详情
Yunjue Agent的执行和进化流程可以分解为以下步骤:1) **任务接收与分解**:系统接收一个包含B个查询的批次$Q_t$。Manager智能体分析每个查询的需求,并与现有全局工具库$T_{t-1}$进行匹配,识别所需工具。2) **工具合成与实例化**:如果现有工具不足以完成任务,Manager会指示Tool Developer智能体合成新的工具(以Python原语形式)。这些新工具$P_{t,i}$会立即被实例化到本地上下文。3) **执行与动态适应**:Executor智能体在ReAct范式下,使用提供的工具集$T_{t-1} \cup P_{t,i}$执行任务。在执行过程中,如果遇到新的能力缺口(例如,需要解析一种之前未处理过的文件格式),Executor可以暂停并向Manager请求新的工具,实现运行时的动态适应。4) **结果整合**:任务完成后,Integrator智能体整合执行历史和中间输出,生成最终答案$a_t$。5) **工具优化与吸收**:所有查询处理完毕后,系统进入工具吸收阶段。Aggregator智能体将本批次生成的所有新工具$\{P_{t,1}, ..., P_{t,B}\}$与现有工具库$T_{t-1}$一起,基于功能语义相似性进行聚类。然后,Merger智能体对每个聚类进行合并,生成一个去重、优化后的统一工具,从而更新全局工具库$T_t$。6) **状态更新与监控**:系统状态从$M_{t-1}$更新到$M_t$,同时计算并记录EGL指标,以监控进化收敛情况。
技术新颖性
本文的技术新颖性主要体现在三个方面。第一,**范式创新**:提出了“原位自进化”这一全新范式,明确将进化过程限定在推理阶段,并以工具进化作为核心路径,这区别于需要离线训练或局限于特定领域的现有自进化方法。第二,**机制创新**:设计了“并行批量进化”策略和“工具吸收机制”。并行批量进化借鉴了小批量梯度下降的思想,通过并行处理和知识共享来平衡效率与学习;吸收机制则通过聚类和合并来主动管理工具库的复杂度,防止其无限膨胀,这是先前工具合成工作所缺乏的关键环节。第三,**评估创新**:提出了“进化泛化损失”(EGL)这一指标,并给出了其单调下降和收敛的理论证明。这为评估智能体进化过程提供了一个类似于训练损失的稳定、可监控的代理,填补了该领域在过程评估指标上的空白。这些创新共同构成了一个完整、自洽且可评估的开放环境智能体进化框架。
实验结果
论文在五个多样化的基准测试上进行了全面评估,结果令人信服。在**零启动设置**下,Yunjue Agent(后端为Gemini 3 Pro)在多个基准上取得了最优性能。具体而言,在需要深度网络搜索和综合的DeepSearchQA上,其准确率达到73.5%,比强大的Gemini 3 Pro基线(56.6%)高出16.9个百分点。在金融搜索推理任务FinSearchComp上,准确率为65.0%,同样大幅领先于基线(49.9%),提升15.1个百分点。在中文科学问答xBench-ScienceQA上,更是取得了创纪录的76.5分。在极具挑战性的前沿多模态基准HLE上,其得分48.0,仅次于GPT-5.2 Pro,位列第二。在xBench-DeepSearch上,性能(59.7)也极具竞争力。这些结果证明,通过自主工具进化,系统在无需任何人工标注或离线训练的情况下,其能力已经超越了配备强大工具(如Python解释器和网络搜索)的商业闭源模型。在**热启动评估**中,系统首先在HLE数据集上进化,然后将积累的工具库迁移到其他数据集。结果显示,性能保持稳定甚至有所提升(例如,xBench-ScienceQA从76.5提升至80.2),同时新工具的合成数量大幅下降(在FSC上减少55%,在xSciQA和xDS上减少100%)。这有力地证明了系统积累的知识具有高度的泛化性和可迁移性。**进化收敛分析**显示,EGL指标在初始阶段快速上升后,约在处理完1,000个查询(约占HLE数据集的40%)后趋于稳定,表明系统快速收敛到了一个高泛化状态。工具库大小的演变图也显示了类似的收敛趋势。**消融实验**表明,所有经过批量进化的智能体(批量大小B=2,4,8,16)都显著优于不进行工具积累的Python解释器基线(准确率40.0%),验证了工具积累的有效性。随着批量大小B的增加,处理延迟成比例降低,且没有带来显著的额外开销。此外,系统约95%的token消耗来自Executor智能体,且由于工具无需重复创建,整体开销与配备Python解释器的标准ReAct智能体相当。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| HLE (Humanity’s Last Exam) | 准确率 (%) | 48.0 | Gemini 3 Pro (45.8) | +2.2 |
| DeepSearchQA | 准确率 (%) | 73.5 | Gemini 3 Pro (56.6) | +16.9 |
| FinSearchComp (T2&T3) | 准确率 (%) | 65.0 | Gemini 3 Pro (49.9) | +15.1 |
| xBench-ScienceQA | 准确率 (%) | 76.5 | GPT-5 Pro (75.0) | +1.5 |
| xBench-DeepSearch | 准确率 (%) | 59.7 | Gemini 3 Pro (51.0) | +8.7 |
局限与改进
尽管论文取得了显著成果,但仍存在一些局限性。首先,**工具进化是必要但非充分条件**。作者在讨论中承认,当前框架主要通过工具生成来验证自进化范式,但工具本身不足以应对所有场景。例如,个性化助手需要持续进化的记忆结构来适应用户偏好,而复杂的多步骤任务(如深度研究)则需要结构化的工作流进化(如生成定制的规划协议)。目前系统将工作流和上下文视为固定组件,限制了其在需要高度个性化或复杂流程管理任务上的潜力。其次,**进化过程的稳定性**有待进一步研究。由于LLM生成的内在随机性,工具库在不同实验运行之间可能存在方差,这在批量大小消融实验中已有所体现(如B=8时的token消耗异常)。确保工具库在不同随机种子下的确定性收敛,对于系统的可靠性至关重要。第三,**对后端模型的依赖性**。系统的性能在很大程度上依赖于底层LLM的能力。实验显示,当使用能力较弱的GPT-5-mini时,性能显著下降。这意味着该框架虽然模型无关,但其最终效果受限于当前LLM技术的发展水平。第四,**评估的局限性**。虽然使用了五个基准,但它们主要集中在问答和搜索任务上,对于需要长期规划、物理交互或实时协作的开放任务,系统的有效性尚未得到验证。
独立分析的弱点
从独立分析的角度看,Yunjue Agent存在几个值得深入探讨的弱点。首先,**工具合成的质量控制依赖于LLM的自我反思,这可能不稳定**。虽然系统有自我纠错机制,但Tool Developer生成的工具质量直接取决于其底层LLM的代码生成能力和对任务的理解。在复杂场景下,生成的工具可能存在隐藏的bug或次优实现,而自我反思可能无法完全发现这些问题。一个潜在的改进方向是引入更形式化的工具验证机制,例如使用单元测试、类型检查或静态分析工具来对新生成的工具进行自动验证,确保其基本的正确性和健壮性。其次,**吸收机制中的聚类和合并操作是计算密集型的**。论文中提到,Aggregator和Merger都是基于LLM的,这意味着每次批量处理后都需要进行多次LLM调用来完成聚类和合并,这会带来额外的延迟和成本。可以探索更轻量级的聚类算法(如基于工具嵌入的聚类)或增量式合并策略,以降低这部分开销。第三,**系统缺乏对工具使用成本和风险的显式建模**。在当前设计中,工具的选择和合成主要基于功能需求,没有考虑工具的执行成本(如API调用费用)、延迟或潜在风险(如网络请求的不确定性)。在资源受限或对安全性要求高的场景中,引入一个成本-效益分析模块来指导工具的选择和合成会更有实际意义。
未来方向
基于本文的成果,未来研究方向可以沿着几个维度展开。作者在论文中明确提出了几个方向:1) **记忆与工作流的共同进化**:将进化机制扩展到记忆架构和工作流策略,使系统能够适应其内部状态和执行逻辑。2) **系统级预训练**:借鉴LLM的预训练和后训练范式,设想未来多智能体系统可以在大规模、广谱的任务数据集上进行“系统级预训练”,从而蒸馏出一个“基础工具集”,使得智能体在面对新任务时主要通过组合现有可靠工具来解决,最大限度地减少测试时的进化需求。3) **进化稳定性和正则化**:开发正则化策略以保证进化过程的确定性,减少LLM随机性带来的方差。4) **并行批量进化的优化**:探索课程学习效果(最优的查询顺序)、批次内多样性权衡以及自适应批量调度(根据收敛信号动态调整批量大小)。此外,基于本文成果还可以延伸出:5) **工具的可解释性与可审计性**:随着工具库的不断增长,如何理解和解释某个工具的功能、来源以及它在特定任务中的作用,对于系统的可信度和调试至关重要。6) **跨智能体知识共享**:探索多个Yunjue Agent实例之间如何共享和迁移它们进化出的工具库,实现知识的分布式积累和协同进化。
复现评估
论文在可复现性方面做出了显著努力。作者**完全开源了代码库、系统交互轨迹以及进化出的工具库**,这为学术界和工业界复现和进一步研究提供了坚实的基础。数据集方面,使用的五个基准(HLE, DeepSearchQA, FinSearchComp, xBench-ScienceQA, xBench-DeepSearch)均为公开数据集,且论文提供了详细的统计信息(如查询数量、语言、领域)和评估协议。在算力需求方面,系统的主要开销来自Executor智能体(约占95%的token消耗),其成本与配备Python解释器的标准ReAct智能体相当,论文中给出了每个查询的平均token消耗和成本估算(例如,在HLE上,平均token消耗为421k,成本为1.48美元)。复现的主要挑战可能在于:1) 需要访问强大的商业LLM API(如Gemini 3 Pro, GPT-5),这会产生一定的费用;2) 系统的多智能体架构和工具吸收机制实现相对复杂,需要一定的工程能力来搭建和调试;3) 进化过程的随机性可能导致复现结果与论文报告值存在微小差异。总体而言,凭借完整的开源资料和清晰的实验设置,该工作的复现难度被评为中等偏低,具备良好的可复现性。
论文图表