← 返回 2026-10-21

CoEvo-RSI:双向历史继承驱动的模型–框架共进化递归自改进 CoEvo-RSI: When Harnesses Evolve, Which Models Should Follow?

Jiaqi Su, Guibin Zhang, Jie-Jing Shao, Cong Pang, Tiankuo Yao, Ivor Tsang, Haiyan Yin, Shuicheng Yan 📅 2026-10-18 👍 46 2026-11-11 18:30
拒绝采样SFT 智能体自进化 模型-框架共进化 模型合并 递归自改进

用进化档案与双向历史继承对齐智能体大脑与身体,9B模型媲美前沿大模型

前置知识

Agent Harness(智能体执行框架)

围绕大模型构建的执行环境,定义系统提示词、工具接口、动作空间、状态/记忆管理和控制流程。模型负责推理和选择动作(大脑),harness 负责把这些动作落地为真实执行(身体)。同一模型搭配不同 harness,任务表现可以相差数十个百分点,例如本文中 Qwen3.5-9B 在 HomeBench VM 上从 10.91% 提升到 75.51%。

全文的问题和方法都围绕 harness 与模型如何配对展开,不懂这个概念就无法理解脑体错配。

模型–框架共进化

让 harness 进化与模型训练交替进行的范式:执行反馈 $F_t$ 指导元智能体修改 harness(提示词、工具、控制流),新 harness 的执行要求又决定模型下一轮如何适配。每一轮从当前配对 $(\mathcal{H}_t, \theta_t)$ 出发,经历评价、适配、晋升形成闭环,代表工作包括 HarnessForge、Co-Harness、WHALE。

CoEvo-RSI 是在共进化范式上的改进,需要先理解这个范式每轮的基本流程,才能看出它在哪一步做了改变。

递归自改进(RSI)

指智能体利用自身产出的数据(轨迹、评测结果、代码)来生成更强的自身版本,形成自我改进循环。本文作者把共进化视为一种务实的 RSI:智能体自己主导数据生成、模型选择和训练,在特定领域内不断变强,并在正文专门讨论了这是否算'过拟合'的边界问题。

论文标题中的 RSI 即此概念,理解它才能把握作者的方法定位与领域特化的讨论。

拒绝采样微调(RFT)

让模型对自己的训练任务采样多条轨迹,用验证器只保留通过校验的成功轨迹,再对这些轨迹做监督微调(SFT)。相比 GRPO/GSPO 等强化学习,它不需要策略梯度估计,训练稳定且实现简单,代价是必须存在可自动判分的验证器。

CoEvo-RSI 的模型适配完全依赖 SFT+拒绝采样(1 个 epoch、学习率 5e-6),这是其训练成本远低于 RL 基线的关键。

TIES-Merging

一种多检查点合并算法:对每个模型相对基础权重的任务向量先裁剪掉幅度小的分量,再解决不同模型之间的符号冲突,最后对符号一致的更新按给定系数加权平均。本文用元智能体指定的系数 $\alpha$($\alpha_j \geq 0$,$\sum_j \alpha_j = 1$)把多个历史检查点合并成一个初始化。

模型继承的'合并'选项直接调用 TIES,理解它才能看懂第 3.3 节检查点选择机制的数学形式。

研究动机

模型–框架共进化已成为递归自改进(RSI)智能体的主流范式,但存在一个长期被忽视的脑体错配问题。共进化每一轮把 harness 进化和模型适配耦合在一起:执行反馈 $F_t$ 指导修改 harness,而新 harness 的执行要求又反过来塑造模型的下一轮适配,两者会逐渐漂移。论文给出两类典型场景:其一是接口错配,进化的 harness 期望 JSON 格式工具调用,而模型习惯输出 XML,导致意图正确、格式错误的调用被拒绝;其二是能力错配,harness 引入了需要主动决定保留、摘要或丢弃信息的上下文管理工具,当前模型不会用,但档案里某个历史检查点 $\theta_i$ 已具备相应能力,反而是更好的适配起点。反向问题同样存在:harness 可能限制模型已有能力,或者某个历史设计 $\mathcal{H}_j$ 恰好提供了适配模型能力的工作流却被丢弃。消融数据量化了后果:只继承最新一代的 Latest-only 变体在第 4 轮出现性能回退且最终 step accuracy 最低;Harness-only 变体在 10 轮中有 8 轮 TIMR(接口违例率)超过 1%,而完整方法全程不超过 0.22%,说明错配确实随单向进化累积。

本文的目标是本文的目标是把脑体兼容性维护变成共进化过程中一个显式、可操作的决策,具体分三件事。第一,形式化定义脑体错配:当 harness $\mathcal{H}_t$ 要求的行为与模型 $\theta_t$ 已学到的行为发散,或 harness 限制了模型已有能力时,即判定发生错配,问题是在连续的共适应轮次中维持两者的兼容性。第二,提出便宜且可自动验证的诊断信号 TIMR(轮级接口错配率),统计模型轮次中调用不可用工具、违反接口契约或输出格式错误的比率,作者明确限定它只刻画可观测接口违例、不等于全部能力错配。第三,构建 CoEvo-RSI 框架,使 Qwen3.5-9B 这样的小模型在多个垂直任务上与 DeepSeek-V4-Pro、GLM-5.3 等大模型竞争:在 TraceElephant 上把 agent 准确率提高 14.16 个百分点、在 HomeBench VM 上提高 4.90 个百分点,同时把推理成本压到基线的 1/22 到 1/38。

与已有工作不同的是,已有工作分三条线:递归 harness 改进(Meta-Harness、Self-Harness、Darwin Gödel Machine)只进化执行系统,递归模型改进(GRPO、GSPO、SkillRL)只在固定 harness 下训练模型,模型–框架共进化(HarnessForge、Co-Harness、WHALE)虽然两边都动,但模型初始化被隐式绑定到最新一代或父分支上。本文的独特切入是把继承变成由元智能体显式做出的双向决策:harness 侧的编辑器可以浏览整个进化档案、自主选择任何历史设计作为起点,而不是只能从上一代修改;模型侧的继承独立于 harness 父分支,通过选择或 TIES 合并档案中任意检查点来匹配新 harness 的执行要求。论文用 RBAC 实验的 10×10 TIMR 矩阵证明接口兼容性是配对特定的:第 3 轮的检查点在第 4–9 轮的 harness 下 TIMR 高达 0.54–1.00,却在第 10 轮最终 harness 下低至 0.02,并取得全场最佳 Safe-EX 80.85%——这种配对只有打破'最新一代继承'的默认规则才能找到。

核心方法

直觉上,CoEvo-RSI 像一个既改工作流程又选执行者的进化团队:团队保留一份档案,记录每一代流程设计、每一代员工(模型检查点)以及他们的合作成绩;每次改进时,流程设计师可以从档案里翻旧方案做起点,人事部门也可以召回任何一代老员工、或让几代员工'融合'出新人来匹配新流程,而不是机械地让最新流程配最新员工。技术上,可执行智能体是配对 $p = (\mathcal{H}, \theta)$,harness 指定提示词、工具、状态管理和控制流,目标是在任务分布上最大化期望得分 $J(\mathcal{H}, \theta) = \mathbb{E}_{x \sim \rho}\, \mathbb{E}_{\tau \sim P_{\theta,\mathcal{H}}(\cdot|x;C)}[s(x, \tau)]$,用 $n_{\text{eval}}$ 次执行的样本均值 $\hat{J}_D$ 估计。一个固定参数的元智能体(DeepSeek-V4.1-Flash)在进化档案 $\mathcal{A}_{<t}$ 上协调两个继承算子:$\text{Inherit}_h$ 由当前配对与执行反馈生成 $K$ 个子代 harness(默认 $K=8$),$\text{Inherit}_m$ 为每个子代选择或合并检查点构成候选配对集合 $\mathcal{Q}_t^{\text{sel}}$;随后评估选出 $\bar{p}_t$,拒绝采样 SFT 适配产生 $p_t^+$,验证决定下一代 $p_{t+1}$,所有结局回写档案。

核心创新是双向历史继承:让'身体的选择'和'大脑的选择'各自独立地访问完整历史,而不是都被锁在最新一代。harness 侧,$K$ 个独立编辑器各自拿到诊断证据和修改假设 $b_{t,k}$ 后浏览档案,自主选择历史设计 $\mathcal{H}_{i_{t,k}}$ 作为起点再编辑,血缘 $(i_{t,k}, \mathcal{U}_{t,k})$ 被记录进档案;模型侧,元智能体直接指定合并系数,单点选择即 one-hot,多点用 TIES-Merging 得到 $\theta^{(\alpha)} = \text{TIES}(\{\theta_j\}; \alpha)$,提案依据历史证据与评估中的任务表现加 TIMR 信号迭代精化。另一个关键组件是 TIMR 诊断:$\text{TIMR}(\mathcal{H}, \theta) = \frac{\sum_{\tau} \sum_{u} v_{\tau,u}}{\sum_{\tau} n_{lm}(\tau)}$,分子是出现接口违例(调用不可用工具、违反契约、格式错误)的模型轮次计数,分母是全部模型轮次,每个违例轮只计一次。它便宜、可自动验证,作为模型继承的引导信号,使框架能主动搜索低错配的脑体配对。与 Latest-only 的本质区别在于:继承是一次显式搜索,而非默认规则。

方法步骤详情

每一轮进化依次执行六步。第一步诊断:当前配对 $p_t$ 在验证集 $\mathcal{V}$ 上跑 rollout,收集观测 $O_t$ 生成反馈 $F_t$,同时统计 TIMR。第二步证据整理:Curator 在检索预算内逐步查询档案元数据,产出共享证据 $e_t$(把历史设计与其模型、结局关联起来)和 $K$ 条修改假设 $b_{t,1:K}$。第三步 harness 继承:$K$ 个编辑器各自浏览档案选择历史起点 $\mathcal{H}_{i_{t,k}}$,结合证据编辑出有效且互异的子代 $\mathcal{H}_{t,k}$。第四步模型继承:元智能体为每个子代提出合并系数 $\alpha_t^{(q)}$,在初评中观察任务表现与 TIMR(评估时两者固定不变),精化出候选配对集 $\mathcal{Q}_t^{\text{sel}}$,最终 $\bar{p}_t = \arg\max_{p \in \mathcal{Q}_t^{\text{sel}}} \hat{J}_{\mathcal{V}}(p)$。第五步配对适配:选中的 $\bar{p}_t$ 在训练集上以温度 1 对每任务最多采 3 条轨迹,保留验证器通过的首条轨迹,做 1 个 epoch 全参数 SFT(学习率 5e-6,batch 8,4 张 H100),得到 $p_t^+$。第六步晋升:在 $\{p_t, \bar{p}_t, p_t^+\}$ 中按同一验证集排名,只有比 $p_t$ 高出边际 $\delta_{\text{prom}}$ 的候选才可取代现任,否则 $p_t$ 连任;包括失败修改在内的全部结局连同 harness 血缘与系数 $\alpha$ 写入档案 $\mathcal{A}_{<t+1}$。

技术新颖性

与最近邻工作相比有三点区别。第一,相对 HarnessForge、Co-Harness、WHALE 等共进化框架——它们每轮的模型初始化隐式取自最新代或父分支——CoEvo-RSI 把模型继承变成显式搜索:检查点可来自档案任意位置,也可 TIES 合并,且选择标准中显式包含 TIMR。第二,相对 Darwin Gödel Machine 的智能体档案,本文档案同时索引 harness 设计、模型检查点与执行结局三者的关联,使'哪一代模型适配哪一代 harness'成为可检索的知识,附录 D 系统对比了代表框架的继承程序。第三,TIMR 把接口兼容性从定性描述变成分母归一化、可自动计算的比率指标,且论文诚实地限定它只覆盖可观测接口违例、不含能力错配。消融实验支持每个组件的必要性:Latest-only 在第 4 轮回退且最终 SA 最低,Harness-only 十轮中八轮 TIMR>1%,Model-only 的 SA 不超过 35%,而完整方法十轮 TIMR 始终不高于 0.22%,且在第 6、8 轮复用第 4 轮权重分别恢复到 61.11% 和 61.90% AA。

Overview of CoEvo-RSI.
Figure 3: Overview of CoEvo-RSI.

实验结果

主实验用 Qwen3.5-9B 作任务模型、DeepSeek-V4.1-Flash 作元智能体,每轮 8 个候选、共 10 轮。多智能体失败归因(Table 1):CoEvo-RSI 在 Who&When Hand 达 68.39% Who / 29.31% When,超过最强 harness 增强系统 FALAT+MiniMax-2.5(66.30%/25.90%);在 OOD 的 Who&When Pro 上 Who 69.43%,超 Qwen3.8-Max(65.03%)4.40 个百分点;在 TraceElephant 上 Who 70.78%,比 DeepSeek-V4-Pro-0813(56.62%)高 14.16 个百分点,而两个 harness 进化基线的 When 都跌到 10% 以下,本文仍保持 28.92%;GRPO/GSPO 在同一初始 harness 下训练,Who 准确率全面落后。角色感知 text-to-SQL(Table 2):Spider 子集 Safe-EX 80.85%、Safe-Deny 96.64%、违例率 1.57%,全面超过 Pi+MiniMax-M3(80.26%/96.33%/1.72%),违例率相对下降 21.5%;OOD 的 BIRD 子集 Safe-EX 60.15% 接近 GLM-5.3(60.90%),Safe-Deny 91.26% 全场最高。智能家居(Table 3):HomeBench VM 成功率 75.51%、F1 89.23%,超 DeepSeek-V4-Pro-0813(75.10%/89.18%),而基座模型仅 10.91%;IM 子集 84.54% 并列最佳、F1 91.80% 全场最高。消融(Figure 4):十轮内 AA 提升 11.11、SA 提升 5.55 个百分点,TIMR 不超 0.22%;第 4 轮回退靠第 6、8 轮复用第 4 轮权重恢复到 61.11%/61.90% AA。成本(Figure 6-7):三轮运行 API 开销 2.06–3.69 美元、墙钟 17.48–20.71 小时;推理侧 Who&When Hand 以 0.16 美元达 68.39%(比 DeepSeek-V4.1-Flash 的 3.55 美元/60.34% 便宜 22 倍),RBAC Spider 比 Pi+MiniMax-M3 便宜 38 倍。候选数 K 从 4 到 10(Figure 6):AA 保持在 45.11%–52.17%,TIMR 不超 0.12%,默认 K=8 墙钟最短(17.48 小时)。

Failure attribution results (%) on the Hand and Algo. subsets of Who&When, Who&When Pro, and TraceElephant.
Table 1: Failure attribution results (%) on the Hand and Algo. subsets of Who&When, Who&When Pro, and TraceElephant.
Role-aware text-to-SQL results (%) on the Spider and BIRD subsets of RBAC.
Table 2: Role-aware text-to-SQL results (%) on the Spider and BIRD subsets of RBAC.
HomeBench multi-device instruction following (%, higher is better).
Table 3: HomeBench multi-device instruction following (%, higher is better).
Co-evolution elevates Qwen3.5-9b-based agent across three domains.
Figure 1: Co-evolution elevates Qwen3.5-9b-based agent across three domains.
Co-evolution on Who&When Algo.
Figure 4: Co-evolution on Who&When Algo.
Harness evolution on role-aware text-to-SQL.
Figure 5: Harness evolution on role-aware text-to-SQL.
Sensitivity to the number of harness candidates K (three rounds, single run)
Figure 6: Sensitivity to the number of harness candidates K (three rounds, single run)
Inference cost–accuracy trade-offs.
Figure 7: Inference cost–accuracy trade-offs.
Interface compatibility on RBAC.
Figure 8: Interface compatibility on RBAC.
查看结构化数据
任务指标本文基线提升
多智能体失败归因(Who&When Hand,OOD) Who 准确率(责任人识别) 68.39% FALAT + MiniMax-2.5 为 66.30%;基座 Qwen3.5-9B 仅 37.93% 较最强基线 +2.09 个百分点,较基座 +30.46 个百分点
多智能体失败归因(TraceElephant,OOD) Who 准确率 70.78%(When 28.92%) DeepSeek-V4-Pro-0813 为 56.62% +14.16 个百分点
多智能体失败归因(Who&When Pro,OOD) Who 准确率 69.43% Qwen3.8-Max 为 65.03% +4.40 个百分点
角色感知 text-to-SQL(RBAC Spider) Safe-EX(安全执行准确率) 80.85%(违例率 1.57%) Pi + MiniMax-M3 为 80.26%(违例率 1.72%) +0.59 个百分点,违例率相对下降 21.5%
角色感知 text-to-SQL(BIRD 子集,OOD) Safe-Deny(安全拒绝率) 91.26%(违例率 5.65%,全场最低) DeepSeek-V4-Pro-0813 为 90.35% +0.91 个百分点,Safe-EX 60.15% 接近 GLM-5.3 的 60.90%
智能家居指令执行(HomeBench VM) 成功率 75.51%(F1 89.23%) DeepSeek-V4-Pro-0813 为 75.10%;基座仅 10.91% +0.41 个百分点,较基座 +64.60 个百分点
接口兼容性(Who&When Algo. 十轮消融) TIMR(轮级接口错配率) 全程 ≤0.22%,AA 十轮提升 11.11 个百分点 Harness-only 十轮中八轮 TIMR>1%;Model-only SA ≤35% 接口违例率降低约一个数量级

局限与改进

作者明确承认两点:一是领域特化,进化的配对在严格隔离的同域 held-out 数据上强,不代表能迁移到无关领域,作者把定位限定为'垂直应用的可负担特化'而非跨域 RSI,并专门用方框讨论了 RSI 与过拟合的边界;二是 TIMR 只覆盖可观测的接口违例,更广的能力对齐需要补充评估(附录 B 讨论)。我自己的观察还有几点:When 准确率(错误步骤定位)在 Who&When Algo.(44.71% 对 DCFA+GPT-5 的 47.62%)和 TraceElephant(28.92% 对 GSPO 的 38.36%)上并非最优,说明方法主要提升责任人识别而非精确定位;拒绝采样完全依赖验证器质量,HomeBench 上的'保守拒绝'可能推高 Safe-Deny 和 IM 成功率,安全-效用平衡部分来自更保守的拒答;验证集仅 200 条 TracerTraj 实例,进化选择在这种小验证集上存在过拟合风险;主表仅对 CoEvo-RSI 报告三次运行平均,多数基线未报方差,对比的统计严谨性有限。

独立分析的弱点

第一,验证器瓶颈:拒绝采样和晋升判断都以自动验证为前提,这把方法限制在有精确判分的领域(SQL 执行、设备操作、带标注的失败归因),对开放式写作或无判分任务无法直接套用;改进方向是引入学习型奖励模型、LLM-as-judge 或辩论式验证,并为验证噪声设计置信度加权的晋升规则。第二,档案检索压力随轮数增长:10 轮、每轮 8 候选已产生数百条记录,Curator 依赖元智能体的检索与判断,更长进化周期下上下文预算 $L_{\text{ctx}}$ 会成为瓶颈;可引入分层档案索引、自动摘要或学习式检索器。第三,TIMR 是必要非充分信号:模型可能以合法但低效的方式使用工具(能力错配),TIMR 无法捕捉,Figure 2 右图里 0% TIMR 只对应 37.50% 准确率就是例证;可补充任务分层探针、单工具 canary 测试作为廉价能力探针。第四,脑体配对评估成本高:评估占每轮墙钟大头(4.54–6.11 小时,总时长 17.48–20.71 小时),候选配对数量受算力约束;可用 TIMR 预筛、早期淘汰或代理任务缩短初评。第五,三个领域各自独立进化、档案不共享,而通用经验(如证据核查模块)本可跨域复用,值得实验跨领域联合档案。

未来方向

作者在结论与正文指出的方向包括:把脑体对齐确立为自改进智能体的核心组织原则,发展 TIMR 之外更全面的能力对齐诊断(附录 B),并把框架推广到更多垂直领域(轻量失败归因评测器、本地智能家居控制器、受权限约束的企业助手)。基于本文成果可以自然延伸的研究有:其一,把模型继承从 SFT 升级为与 RL(GRPO/GSPO)耦合,检验历史检查点合并是否同样能加速策略优化;其二,研究档案的跨任务迁移,让一个领域的进化产物(如证据核查、权限校验模块)作为另一领域的初始 harness,检验通用模块的可迁移性;其三,探索合并系数之外的初始化构造方式,如任务向量算术或学习式路由;其四,把继承决策从每轮一次扩展到部署期在线继承,在数据漂移时动态重配对;其五,理论层面刻画脑体错配的成因与收敛条件,例如 harness 变更幅度与模型适配所需数据量之间的关系。

复现评估

复现条件较好:代码在 GitHub 开源(SuJQ0722/CoEvo-RSI),模型检查点在 Hugging Face collections 发布,基座 Qwen3.5-9B 开放权重。数据方面,TracerTraj 留出 200 条做验证、其余 3,400 条单错误轨迹(来自 TracerTraj、CORRECT-Error、AFTraj 及自建轨迹)用于训练;Who&When、Who&When Pro、TraceElephant、RBAC、HomeBench 均为公开数据集且使用官方划分,失败归因的四个基准全部与训练及进化选择隔离。算力需求适中:适配阶段仅需 4 张 H100 做 1 个 epoch SFT(学习率 5e-6,batch 8),元智能体 API 开销约每三轮 2–3 美元,完整运行一天内完成。主要不确定性在于元智能体(DeepSeek-V4.1-Flash)驱动的进化过程具有随机性,复现者可能得到不同的 harness 血缘和最终配对;作者对失败归因结果做了三次平均,但完整流程的运行间方差和验证器实现细节是否完全开源,需要在仓库中进一步确认。总体难度中等,适合有小规模 GPU 集群的团队复现或迁移到自己的垂直任务。

相似论文推荐