← 返回 2026-10-08

Inherit-MAS:通过工作流继承与执行继承实现多智能体系统的测试时进化 Inherit-MAS: Test-Time Evolution of Multi-Agent Systems through Workflow and Execution Inheritance

Songtao Wei, Yi Li, Zhichun Guo, Bingzhe Li 📅 2026-10-01 👍 11 2026-11-11 18:30
LLM智能体 多智能体系统 工作流优化 推理成本优化 测试时进化

显式继承有用工作流与未变执行结果,让多智能体系统在测试时低成本进化

前置知识

多智能体系统(MAS)

由多个具有互补角色的 LLM 智能体组成的系统,通过通信、工具调用和结构化交接来分工完成复杂任务,代表框架有 AutoGen、MetaGPT。不同智能体可以并行执行子任务、交换中间结果、互相批评验证,性能取决于任务分解、角色与工具分配、信息流和验证机制。

本文的进化对象就是 MAS 工作流,需要先理解智能体间的协作结构与执行轨迹,才能明白继承和复用发生在什么层面。

测试时进化(Test-Time Evolution)

在推理阶段利用执行反馈迭代改进系统或答案的范式:每次执行产生轨迹、输出和评分,据此修改系统后再次执行,循环若干轮。与训练时学习不同,所有改进都发生在单次任务的推理预算内。

Inherit-MAS 就是一个测试时进化循环,理解这个范式才能理解候选预算、逐轮精化和最终排名的设计动机。

有向无环图(DAG)工作流

把 MAS 表示为 $G=(V,E)$:节点是带角色、提示词、工具集和解码配置的智能体或操作,有向边传递中间结果,图中不允许出现环。合法性校验(无环、输入输出类型兼容、工具授权)都定义在图结构上。

Select 丢弃节点、Edit 校验编辑、变更定位和执行继承全部建立在这个图表示之上,是读懂方法部分的语法基础。

请求指纹与内容寻址缓存

将请求规范化序列化后取 SHA-256 哈希作为查找键,相同键直接返回存储结果,从而避免重复计算。为保证安全,存储记录还需通过格式、键与内容哈希的完整性校验,损坏记录应报错而非当作未命中。

执行继承本质上是内容寻址缓存,但键不只是用户查询,而是包含上游记录和上下文指纹的完整解析请求,这是本文成本优化的核心。

BM25 稀疏检索

经典词频统计检索算法,根据查询词项在文档中的频率、逆文档频率和文档长度归一化打分,返回最相关文档,无需神经网络,结果完全确定。

两个基准的检索环节都用固定 BM25 索引,且每个候选限 4 次调用、每次返回 5 篇文档,这是跨系统公平比较的控制变量。

研究动机

LLM 多智能体系统(如 AutoGen、MetaGPT)通过角色分工协作完成复杂任务,但其工作流——谁做什么、如何通信、用什么工具——很难在任务开始前设计到位。固定工作流只能在预设执行模式内响应观察,无法针对具体任务暴露出的弱点(证据收集不足、工具使用不当、协调失败)修改执行模式本身。新兴的进化式 MAS(EvoAgent、EvoMAS、TacoMAS)虽能用执行反馈在线修改系统,却存在两个具体问题:其一,大范围修改容易破坏已验证有用的组件——例如检索环节工作正常而答案整合失败时,若把检索策略和整合步骤一起改掉,先前的成果就被无谓扰动;其二,即便某节点配置未变,上游改动后重跑整个工作流会重复执行完全相同的请求,产生大量冗余推理成本。论文数据显示,在 WorkBench 上 EvoMAS 和 TacoMAS 的总 token 消耗分别是 Inherit-MAS 的 16.8 倍和 22.9 倍,而两者的任务完成率(30.8%、34.6%)反而全部低于单个 ReAct 智能体的 41.5%。

本文的目标是本文的目标是在有限的测试时预算下(每个任务 5 个候选工作流),让 MAS 利用执行反馈稳定提升任务性能,同时控制推理成本。目标可拆解为两点:一是"改得准"——每次精化只针对裁判诊断出的缺陷做一次经过结构校验的最小编辑,显式保留被判定有用的节点,避免伤及已经完成的有效计算;二是"算得省"——当某节点的完整解析请求(包括上游结果与执行上下文指纹)与历史记录完全一致时,直接复用存储结果而不重新调用模型或工具,在保持评估公平的前提下削减冗余的 worker 推理。量化目标是在 WorkBench 和 HotpotQA FullWiki 两个基准、GPT-4o-mini 和 Qwen3-32B 两种 worker 骨干下全面超越 EvoAgent、EvoMAS、TacoMAS 等进化基线,并显著降低 token 开销。

与已有工作不同的是,现有进化 MAS 方法各有侧重:EvoAgent 用进化算子从初始专家扩展种群,EvoMAS 维护有前景配置的池子做变异交叉并积累跨任务经验,TacoMAS 耦合快慢两个进化循环,但它们都没有显式回答两个关键问题:上一代里"什么该保留",以及改动之后"哪些已完成的计算结果仍然有效"——保留配置不等于旧结果仍可用,因为修订可能改变节点接收的信息。本文受生物进化中"遗传提供记忆、自然选择筛选变异"的互补关系启发,把继承显式化为两个独立层面:工作流继承从最新完成的候选出发,只丢弃裁判判定无用的可移除节点并施加一次校验编辑;执行继承要求完整解析请求与执行上下文指纹精确匹配、记录通过完整性校验才复用。这是首个把"变更定位"与"结果有效性验证"形式化进测试时 MAS 进化闭环的工作。

核心方法

直觉上,好的测试时进化应当像生物遗传:记住并传递已被验证有效的部分,只做针对诊断缺陷的定向小变异,并且能判断哪些旧的计算产物仍然可用。技术路线是一条五步循环:第一步,元模型从任务 $x$ 和接口 $I$ 综合出初始工作流 $G_0$(有向无环图,节点是带角色、提示词、工具权限的智能体)并执行,把合格节点的结果存入任务本地的结果存储。第二步,独立提示的裁判模型给出四维评分 $q_k \in [0,100]^4$(完成可能性、需求覆盖、产物依据、总体质量)和节点级文字批评 $\gamma_k$。第三步工作流继承:Select 阶段可丢弃被判无用的可移除节点,Edit 阶段对保留的工作流施加一次经校验的编辑。第四步执行继承:为每个节点构造完整解析请求,以其 SHA-256 哈希为键查找结果存储,命中且记录校验通过则零成本复用,否则实时执行并存储结果。第五步,5 个候选的预算耗尽后按词典序排名返回最优候选的存储输出。每条轨迹包含 1 次初始综合加 4 轮精化,全流程温度为 0。

与 EvoMAS 把进化看作配置的变异交叉、TacoMAS 的快慢双循环不同,Inherit-MAS 的本质创新是把继承拆成结构层和执行层两条独立机制。工作流继承保证修改的保守性:从现任候选 $G_{p(k)}$ 出发,只有单独移除后仍保持工作流合法的节点才可能被丢弃(丢弃集需满足 $\Delta^-_k \subseteq R(G_{p(k)})$ 且组合后仍通过合法性校验),随后仅允许施加一次作用域受限的编辑,保留节点的角色、提示词、工具和连线原封不动。执行继承保证复用的安全性:复用条件不是"节点配置没变"的粗粒度判断,而是完整解析请求的精确匹配——请求 $r_{k,v}$ 包含节点当前规格、有序上游记录和执行上下文指纹 $\phi_k$,键 $\kappa_{k,v}=h(r_{k,v})$ 取 SHA-256,且记录须通过格式、键、内容哈希三重校验,损坏记录直接终止执行。保守变更定位把节点分为结构不变区与潜在受影响区 $D_k=\Delta_k\cup\mathrm{Desc}(\Delta_k)$,但两区都要经过完整请求校验,宁可不命中也不复用可疑结果。

方法步骤详情

流程分七步。(1) 初始综合:元模型从任务 $x$ 与接口 $I$ 综合 $G_0=S(x,I)$,执行得输出 $y_0$ 与轨迹 $\tau_0$,合格节点结果写入任务本地存储。(2) 裁判:$J$ 对输出和轨迹评分,返回四维分数 $q_k\in[0,100]^4$(完成可能性、需求覆盖、产物依据、总体质量)与节点级批评 $\gamma_k$。(3) Select:输出丢弃集 $\Delta^-_k$ 并剪枝得 $G'_k$,仅当丢弃节点均在单独可移除集内且组合剪枝后仍合法才接受。(4) Edit:从有限菜单(改提示词/子任务/工具权限、增删节点或边、插入节点)选一项 $a_k$,应用器只改声明作用域内的字段,并通过无环、输入输出兼容、工具授权等验证。(5) 变更定位:新节点及规格、连线或执行设置变化的节点构成 $\Delta_k$,受影响区 $D_k$ 为其自身加全部下游节点。(6) 执行继承:构造完整解析请求 $r_{k,v}$,以 SHA-256 得键 $\kappa_{k,v}$;无状态 LLM 节点与只读操作命中经校验记录则复用(不耗实时 token),否则实时执行并存储合格结果;有状态任务从全新环境副本出发,仅 sink 节点执行写操作。(7) 排名返回:按 $s_k=(-b_k,\mathbb{1}\{\text{合法}\},q^{all},q^{cov},q^{grd},-k)$ 词典序取最大并返回其输出,不重新执行。

技术新颖性

三点新颖性。第一,把测试时 MAS 进化形式化为显式工作流继承:初始综合之后每个候选都从最新完成者(incumbent)出发,保留节点级批评认定有用的部分,用一次校验编辑处理诊断缺陷——这与 EvoAgent 的种群进化算子、EvoMAS 的配置池变异交叉、TacoMAS 的快慢双循环形成清晰的方法论区分。第二,"保守变更定位 + 请求验证执行继承"是全新的执行层机制:它既不是简单缓存(键不只是用户查询,而是包含上游记录和上下文指纹的完整解析请求),也不是盲目复用(需同时满足节点资格、精确匹配、记录完整性三重校验),保证复用不改变被评估候选本身的语义。第三,工程设计上的谨慎值得注意:一次编辑只保证结构有效而非保证改进,失败尝试照常计入预算与失败统计;排名规则保留所有已完成候选,防止劣化的子代顶替父代;当所有候选整体质量分几乎没有超过首个完成者时,最后一轮会触发工作流重综合以跳出局部陷阱。

Overview of Inherit-MAS
Figure 2: Overview of Inherit-MAS

实验结果

四个基准-骨干设置中,Inherit-MAS 是唯一在每个设置都达到或超过 Single ReAct 的进化 MAS。WorkBench(GPT-4o-mini)完成率 55.4%,比 Single ReAct 的 41.5% 高 13.8 点、比最佳进化基线 TacoMAS 的 34.6% 高 20.8 点,EvoAgent 与 EvoMAS(33.8%/30.8%)均低于 ReAct;Qwen3-32B 下 46.2%,与 ReAct 持平、超最佳基线 11.5 点。HotpotQA(GPT-4o-mini)joint F1 49.7%,高于 ReAct 的 46.0% 与 TacoMAS 的 47.8%,answer F1 73.3% 全场最高;Qwen3-32B 下 joint F1 42.7%,高于 ReAct 的 37.1% 和 TacoMAS 的 39.9%,answer F1 65.3% 同样最高。逐轮离线评分单调上升:WorkBench 从初始到第 4 轮共提升 9.2 点(首轮贡献 6.9 点),HotpotQA 提升 5.0 点。成本上,相对关闭执行继承的独立重跑,worker token 从 2.03M 降至 1.44M(WorkBench,省 29.1%)、从 5.50M 降至 3.60M(HotpotQA,省 34.6%),总 token 节省 5.3% 和 18.1%;而 EvoMAS 与 TacoMAS 的总 token 是本文的 16.8/22.9 倍与 13.7/2.1 倍。

WorkBench completion percentages by worker backbone and domain
Table 1: WorkBench completion percentages by worker backbone and domain
HotpotQA FullWiki F1 scores (%) by worker backbone
Table 2: HotpotQA FullWiki F1 scores (%) by worker backbone
Official performance of the returned workflow after initial synthesis (Initial) and after each refinement round (R1 to R4, counted by candidate index). The R4 points are the reported final results.
Figure 3: Official performance of the returned workflow after initial synthesis (Initial) and after each refinement round (R1 to R4, counted by candidate index). The R4 points are the reported final results.
Live worker tokens with execution inheritance (original runs) and with execution inheritance disabled (independent reruns of the same controller on the same tasks, averaged over two reruns on WorkBench)
Figure 4: Live worker tokens with execution inheritance (original runs) and with execution inheritance disabled (independent reruns of the same controller on the same tasks, averaged over two reruns on WorkBench)
查看结构化数据
任务指标本文基线提升
WorkBench 工作场所任务(GPT-4o-mini workers) 官方完成率 (%) 55.4 TacoMAS 34.6(最佳进化基线);EvoAgent 33.8;EvoMAS 30.8;Single ReAct 参考 41.5 较最佳进化基线 +20.8 点,较 Single ReAct +13.8 点
WorkBench 工作场所任务(Qwen3-32B workers) 官方完成率 (%) 46.2 TacoMAS 34.6(最佳进化基线);EvoAgent 28.5;EvoMAS 33.1;Single ReAct 参考 46.2 较最佳进化基线 +11.5 点,与 Single ReAct 持平
HotpotQA FullWiki 多跳问答(GPT-4o-mini workers) Joint F1 (%) 49.7(Answer F1 73.3 全场最高,SP F1 61.7) TacoMAS 47.8;EvoMAS 39.2;EvoAgent 34.8;Single ReAct 46.0 较 TacoMAS +1.9 点,较 Single ReAct +3.7 点
HotpotQA FullWiki 多跳问答(Qwen3-32B workers) Joint F1 (%) 42.7(Answer F1 65.3 全场最高,SP F1 58.5) TacoMAS 39.9;EvoMAS 39.4;EvoAgent 32.3;Single ReAct 37.1 较 TacoMAS +2.8 点,较 Single ReAct +5.6 点
执行继承成本收益(同一控制器关闭继承独立重跑对照) worker token 节省率 (%) WorkBench 29.1%(2.03M→1.44M);HotpotQA 34.6%(5.50M→3.60M);总 token 节省 5.3%/18.1% 关闭执行继承的独立全执行重跑(WorkBench 重跑完成率同为 55.4%,性能无损) 提示词编辑场景下分别继承 47.3% 和 75.0% 的 worker-token 等价物

局限与改进

作者明确承认的局限:一次校验编辑只保证结构有效性,不保证修复诊断的问题或提升性能,失败尝试照样消耗预算;词典序排名也不保证在不可观测的真实效用 $U$ 上改进。从数据看还有几点值得注意:评测规模偏小——WorkBench 表中各领域完成率均为 5% 的倍数,暗示每域约 20 题,论文未报告置信区间或显著性检验,20.8 点的优势虽大,但 HotpotQA 上 1.9 点的领先难以排除噪声;执行继承的收益高度依赖编辑类型——WorkBench 重跑中提示词编辑场景继承了 47.3% 的 worker-token 等价物、HotpotQA 为 75.0%,若进化频繁做结构编辑(增删节点),下游大范围失效会使节省急剧缩水;总 token 节省在 WorkBench 仅 5.3%,因为元模型、选择器与裁判永远实时执行,无法继承;执行继承仅覆盖无状态 LLM 节点与确定性只读操作,有状态任务需要全新环境副本加指定 sink 节点,限制了在可写环境中的并行性;此外 WorkBench 的 CRM 域所有系统都停在 20%,提示该类任务对现有方法普遍困难。

独立分析的弱点

第一,统计效力不足:每域约 20 题、无方差与显著性报告,HotpotQA 上对 TacoMAS 仅 1.9 点的 joint F1 优势可能不稳定,改进方向是扩大评测规模并对多种子重跑做显著性检验。第二,请求键用 SHA-256 精确匹配过于脆弱:请求措辞的微小变化(哪怕语义等价)都会导致缓存未命中,而且提示词编辑本身就会让多数下游节点的请求失效;可探索带正确性保证的语义等价检测,但需权衡错误复用的风险。第三,裁判与元模型虽分开提示却是同一个模型(GPT-5.4-mini),对节点"有用/无用"的判断可能存在系统性偏差,进而影响 Select 的丢弃决策,可用异构裁判或在人工校验子集上验证批评质量来缓解。第四,一次编辑的保守性可能拖慢收敛——首轮就贡献了 WorkBench 9.2 点提升中的 6.9 点,但对复杂缺陷可能需要多轮才能修复,自适应编辑次数或一批相互独立的编辑值得尝试。第五,"节省"只有相对独立重跑才有意义,与不进化的一次性 Single ReAct 相比,Inherit-MAS 的绝对总成本仍显著更高(元模型加裁判开销),论文未直接给出这条性价比曲线。

未来方向

作者方向:附录 E.3/E.4 的成本记账与确定性运行时检查可扩展为标准化的进化 MAS 评测协议;把执行继承推广到更一般的工具类型和有状态环境是明确的下一步。基于成果可延伸的方向包括:其一,跨任务持久化结果存储——当前存储是任务本地的,若与 EvoMAS 式跨任务经验结合,可让常见子程序(如固定检索模板的中间结果)在任务间复用;其二,请求等价理论——形式化"何时两个解析请求必然产生相同结果",在精确哈希与激进的语义缓存之间建立有正确性保证的中间层;其三,把继承思想扩展到失败轨迹的利用,例如将失败候选的 trace 作为负样本指导编辑提案;其四,自适应预算分配——按裁判分数的轮间增益动态决定继续精化还是提前停止,进一步压缩测试时成本;其五,在更复杂的多模态与长程智能体基准上验证逐轮单调改进是否依然成立。

复现评估

复现条件较好。代码已开源(github.com/CrazyMint/Inherit-MAS),WorkBench 与 HotpotQA FullWiki 两个基准公开,检索使用固定 BM25 索引(每候选 4 次调用、每次返回 5 篇文档),比较条件可控。模型方面 GPT-4o-mini 与 Qwen3-32B 均易获取,全流程温度为 0,且执行器、验证器、变更定位均为确定性实现,利于逐位对照。附录 C 给出编辑菜单、验证器检查与响应修复流程,附录 D 提供代码版本、基准适配、模型路由与解码设置,附录 E 详述 token 记账与运行时检查,透明度较高。主要障碍有二:一是 API 成本,单个设置需数百万 token 量级(如 HotpotQA 全执行 5.50M worker token,另加元模型/裁判的实时推理);二是元模型与裁判所用 GPT-5.4-mini 为论文发表时的最新模型,后续复现者需替换为可用的等价模型,可能带来结果偏移。总体难度中等,有 API 预算即可复现主表。

相似论文推荐