TACO：基于观察上下文压缩的高效终端智能体自演化框架

TACO自演化压缩终端观测,免训练省token并保留关键证据。

前置知识

终端智能体 (Terminal/CLI Agent)

通过执行命令行指令、观察终端输出、迭代决策来完成软件工程、调试、测试等长时任务的大模型智能体,典型代表有 Terminus-2、OpenHands、Mini-SWE-Agent 等。

本文面向的就是这一类智能体,理解 agent-loop(指令→执行→观察→下一指令)是读懂 TACO 在哪一步压缩观测的前提。

上下文压缩 (Context Compression)

在保留对后续决策有用的关键信息前提下,用启发式、LLM摘要或可学习模型缩短传入 LLM 的长文本。终端场景下既要精简又要保精确证据,极具挑战性。

这是 TACO 要解决的核心问题,理解通用摘要可能丢错信息、静态规则易跨任务失效,有助于理解作者为何要做 '保留感知的规则演化'。

测试时适应 / 免训练自演化 (Test-Time Adaptation, Self-Evolving)

不更新模型权重,而是在推理阶段通过观察环境反馈、积累记忆或规则来持续改进后续输出。常见做法有轨迹摘要、技能库、规则池等。

TACO 的核心范式就是这种免训练自演化,把压缩规则当成可积累的 '知识',理解这一范式才能看清 Global Rule Pool 的设计意图。

奖励无关收敛度量 (Reward-Free Convergence Metric)

在没有真实标签或评分函数时,通过代理信号(如规则集合的重叠率、潜在空间的稳定性)判断迭代是否已收敛。本文使用 Top-K 规则保留率 Retention。

终端任务没有标准奖励,作者必须用 Retention 等无奖励指标触发停止,理解这点能看清 4.5 节实验设计的逻辑。

研究动机

终端智能体每一步都会收到原始命令行输出,这些文本虽长但信息密度极不均匀:错误信息、文件路径、测试名等稀疏却精确的证据,混杂在大量安装日志、编译冗余行、测试输出中间。作者对 50 条 TB 2.0 轨迹做人工剔除,发现纯 '有效文本' 占比仅 55.9%–75.4%,意味着有 24.6%–44.1% 的 prompt token 是冗余。但这种冗余不能粗暴删除,因为后续决策可能仍依赖那些精确字符串。现有方法各有硬伤:通用 LLM 摘要会改写或省略错误信息,人工设计的静态规则在跨命令、跨仓库、跨语言时极易失效,训练型裁剪器(如 SWE-Pruner)需要额外训练数据且主要针对 SWE-Bench 类场景,泛化不到其他终端环境。结果就是既烧 token 又会丢关键信号,成为长时 CLI 任务的核心瓶颈。

本文的目标是提出一个即插即用、免训练、无需人工规则的终端观测压缩框架 TACO。该框架的目标是在不微调任何模型、不为每个新终端任务手工编写压缩规则的前提下,既能显著减少终端观测中冗余的上下文 token(实测 12%–27%),又能严格保留 '未来决策所需的确切证据'(错误信息、文件路径、命令参数、测试名、构建目标等),并同时在不同终端基准与不同模型规模上获得更高的任务成功率,最终做到 '用更少 token 做对的事'。

与已有工作不同的是，TACO 的独特切入角度是:把压缩规则当成可学习、可积累、可重用的 '保留感知知识',而非固定的启发式或一次性摘要。具体而言,它通过三层机制实现——任务内基于智能体行为反馈动态增删改规则,任务间通过 Global Rule Pool 共享经过检验的规则,并用一种无奖励的 Retention 指标自动判断演化是否收敛。这样既不需要为每个终端任务手工编规则,也不需要额外训练专门的压缩模型,压缩策略还能跨任务复用,弥补了 '静态规则' 与 '训练型压缩' 两条主流路线留下的空缺。

核心方法

TACO 的整体直觉是:把终端观测压缩问题重塑为 '从 agent 轨迹中持续学习结构化压缩规则' 的自演化过程。每条规则包含触发模式、保留模式、移除模式与保守保留界这四类参数,由一个固定的规则执行器实例化为具体的过滤行为,而 LLM 只负责 '提议/调整' 规则而非自由生成摘要。系统在三个层级同时运转:每条命令产生的原始观测会被压缩后才进入 agent 历史;任务内部根据 agent 的隐式反馈(如要求看全量输出、重复同一命令)动态增删改规则;任务之间通过 Global Rule Pool 把经验证有效的规则写回,让后续任务直接复用。直觉上,TACO 把压缩知识当成了一份跨任务的 '手册',手册会随着 agent 走过越来越多类型的终端任务而越来越完善。

TACO 与已有方法的本质差别在于 '保留感知的结构化规则自演化'。通用 LLM 摘要是端到端的开放式生成,容易丢精确证据;静态规则是手工一次性写死,无法跨任务适配;训练型压缩器需要额外数据集和模型权重更新。TACO 既不生成自由文本,也不更新任何模型参数,而是让一个 LLM 在受限的规则 schema 内提议规则,并用 agent 的真实行为反馈来验证规则是否过度压缩;同时通过 Global Rule Pool 跨任务积累可靠性度量 $c_r^g$ 和使用次数 $n_r$,让规则评分 $R_g^s(r) = c_r^g \cdot (n_r + 1)$ 同时反映 '是否可靠' 与 '是否被多次复用',从而持续过滤出问题规则、放行高质量规则。

方法步骤详情

TACO 工作流分四步。(1) 规则初始化:从 Global Rule Pool $R_g$ 按排名分数 $R_g^s(r)=c_r^g\cdot(n_r+1)$ 取 top-k 候选,由 LLM 按任务描述做选择与微调,得到任务级活跃规则集 $R_t$。(2) 终端观测压缩:每步得到原始观测 $O_t$,若含错误关键字或异常栈等显式失败信号则判定为 Critical 并原样保留,否则用 $R_t$ 中匹配规则做保守过滤,得 $\tilde{O}_t=F_{R_t}(O_t|C_t)$ 再喂给 agent。(3) 任务内演化:对未被覆盖的非关键观测,LLM 提议新规则入 $R_t$;若 agent 出现 '请求全量输出' 或 '重复同一命令' 等过度压缩抱怨,则追溯触发的规则、抑制使用并替换为更保守变体。(4) 跨任务演化:任务结束后仅当规则成功应用至少一次且 $c_t^r\geq\tau$ 时写回 $R_g$,更新 $c_r^g$ 与 $n_r$,并以 Retention 指标判断多轮演化何时收敛,全流程无需任何基准答案。

技术新颖性

技术上 TACO 有三处新颖性。第一,把 '压缩规则' 从静态启发式升级为带结构化 schema 的可学习对象,包含触发模式、保留模式、移除模式、保守保留界,由固定执行器实例化,约束了 LLM 的自由度从而降低误删风险。第二,设计了显式的 '保留感知保险机制':Critical 观测(错误信息、异常栈)直接原样透传,过度压缩时根据 agent 行为反馈注入更保守规则,形成闭环校正。第三,提出基于 Global Rule Pool 的跨任务规则生命周期管理,每条规则带全局置信度 $c_r^g$ 与累计使用次数 $n_r$,联合排名 $R_g^s(r) = c_r^g \cdot (n_r + 1)$,并用 Retention 作为无奖励收敛信号,使得整套机制无需训练、无需人工标签就能在多个终端基准上稳定工作。

实验结果

TACO 在 6 个终端基准与 6 种模型规模(8B–685B)上一致维持或提升成功率同时削减 token。表 1 以 MiniMax-M2.5 为骨干时:SWE-Bench Lite 准确率 56.30%→57.12%(+0.82)、token -12.1%;DevEval 38.10%→39.74%(+1.64)、token -27.0%;TB 1.0 +2.95、TB 2.0 +1.36 个百分点。表 2 显示 TACO 即插到 Terminus-2 后,Qwen3-Coder-480B、DeepSeek-V3.2、MiniMax-M2.5、Qwen3-32B、Qwen3-14B、Qwen3-8B 在 TB 2.0 上分别提升 1.96、2.15、1.36、3.56、2.11、2.24 个百分点。图 3 表明固定 14M–120M token 预算下仍多 1%–3% 增益。表 4 显示 200 条人工规则与 LLM 摘要虽然删得更多(17.9%/21.3%),但准确率不及 TACO 的 25.9%,说明压缩比高不等于准确率高。附录给出辅助调用仅占总 token 约 1%。

**Table 1**: Results across six benchmarks.

**Table 2**: Results on TerminalBench (TB) 1.0 and 2.0.

**Table 3**: Result with token consumption.

**Table 4**: Static compression baselines on TB 2.0.

**Table 5**: Task-solving number changes.

**Table 6**: Rule reusability on TB 2.0.

**Table 7**: Ablation results on TB 2.0.

**Figure 3**: Agent Accuracy Under Identical Token Budgets.

**Figure 4**: Rule-frontier convergence and performance stability.

查看结构化数据

任务	指标	本文	基线	提升
SWE-Bench Lite (MiniMax-M2.5)	Accuracy / Total Tokens	57.12% / 270.53M	56.30% / 307.61M	+0.82% 准确率, -12.1% token
CompileBench (MiniMax-M2.5)	Accuracy / Total Tokens	75.00% / 11.41M	75.00% / 14.55M	准确率持平, -21.6% token
DevEval (MiniMax-M2.5)	Accuracy / Total Tokens	39.74% / 26.82M	38.10% / 36.72M	+1.64% 准确率, -27.0% token
CRUST-Bench (MiniMax-M2.5)	Accuracy / Total Tokens	48.05% / 134.97M	47.00% / 163.53M	+1.05% 准确率, -17.5% token
TerminalBench 1.0 (MiniMax-M2.5)	Accuracy / Total Tokens	45.25% / 23.43M	42.30% / 29.74M	+2.95% 准确率, -21.2% token
TerminalBench 2.0 (MiniMax-M2.5)	Accuracy / Total Tokens	44.16% / 110.63M	42.80% / 113.74M	+1.36% 准确率, -2.7% token
TB 2.0 (Qwen3-32B + Terminus-2)	Accuracy	7.48%	3.92% (Qwen3-32B-Instruct / Terminus-2)	+3.56% 绝对提升(几乎翻倍)
TB 2.0 (DeepSeek-V3.2 + Terminus-2)	Accuracy / Token per Step	42.7% / 30,939	40.6% / 35,038	+2.1% 准确率, -11.7% 单步 token
TB 2.0 静态压缩消融 (Qwen3-Coder-480B)	Accuracy ± std / Token 削减	25.9 ± 1.5 / 10.78%	23.9 ± 2.9 / 0%	+2.0% 绝对提升,超过 HQ Rule(24.3)、LLM 摘要(20.3) 等更强压缩基线

局限与改进

作者承认的局限主要有四点:(1) 小模型上每步 token 节省往往很有限(<3%),因为它们经常提前失败,TACO 反而通过更长轨迹带来更多总 token 消耗;(2) 小模型从错误反馈中学习的能力相对偏弱,任务内演化贡献的提升幅度不如大模型;(3) Global Rule Pool 在 6 个不同基准之间共享程度有限,任务域差异大时仍需冷启动;(4) Retention 等无奖励信号只是经验性收敛判据,理论上不保证全局最优。我自己的额外观察是:TACO 的反馈信号(请求全量输出、重复命令)依赖于特定 agent 框架暴露这些接口,框架耦合度需要进一步评估;另外随着 batch size $N$ 变化,规则传播速度与最终性能的关系在附录 G 中提及但未给完整消融,实际部署时 $N$ 的选取仍需经验调参;最后 'Critical 观测原样透传' 这一策略虽然保守,但在某些场景下可能反向浪费 token(例如一段很长的堆栈跟踪里只有一行是关键)。

独立分析的弱点

独立分析后认为 TACO 仍有几处可改进的弱点。第一,Critical 判别当前依赖启发式规则(检测错误关键字、异常栈),对一些 '沉默失败' 场景(如命令无输出但实际上写错文件)无法识别,改进方向是引入更细粒度的语义级 Critical 分类。第二,任务内反馈信号(请求全量输出、重复命令)较为粗糙,容易把 'agent 自己决策波动' 误判为 '压缩过度',改进方向是结合多次采样的稳定性指标。第三,Global Rule Pool 的评分 $R_g^s(r) = c_r^g \cdot (n_r + 1)$ 把置信度与使用频次直接相乘,忽略了任务难度差,跨困难任务复用规则时可能放大偏置,改进方向是引入任务归一化或贝叶斯平滑。第四,Retention 用 Top-30 规则集合重叠率衡量收敛,对 K 的取值较敏感,作者在附录里也提到尚未充分消融,建议用多 K 联合投票。第五,目前所有规则演化都需要 LLM 提案,仍有一定延迟开销,可以考虑对高频模式做模板化缓存。

未来方向

作者明确提出的方向包括:把 Global Rule Pool 推广到更多终端基准(目前只跨 6 个),进一步验证冷启动成本能否在更大任务域上摊平。基于成果还可以延伸几类研究:(1) 把保留感知压缩扩展到 code 文件、网页、抓取数据等其他长上下文源,探索一种 '跨模态压缩规则';(2) 与训练型压缩器(SWE-Pruner 等)正交结合,TACO 在线给出粗筛规则,训练模型负责细粒度剪枝;(3) 研究规则层面的可解释性审计,让用户能看到 '为什么这段日志被压掉了',增强对压缩行为的信任;(4) 把 Retention 等无奖励收敛度量推广到其他自演化系统(技能库、记忆库),作为一种通用范式评估指标;(5) 小模型适配,设计不依赖 agent 内部反馈的外部 '压缩质量裁判' 来缓解小模型早停带来的反馈稀缺。

复现评估

作者开源了完整代码 https://github.com/multimodal-art-projection/TACO.git,论文给出全部 6 个基准的实测数字,并在附录提供规则 schema、执行示例、LLM 提示词、奖励无关性论证(附录 I 表 11)和参数敏感性分析(附录 G),主干实验均跑 5 次取均值并报告标准差。评估覆盖 6 个不同规模的模型和 3 种主流 agent 框架(Terminus-2、Mini-SWE-Agent、OpenHands),复现门槛主要在于:需要能跑 Terminus-2 / OpenHands 等多框架容器,以及大规模 LLM 调用预算——例如 TB 2.0 上 DeepSeek-V3.2 单次实验就已经 110M 量级 token,完整六基准五轮评估对小型实验室而言算力压力较大。整体而言,代码、数据、提示词、超参都比较齐全,中等以上团队可以较顺利复现主干结论。

TACO：基于观察上下文压缩的高效终端智能体自演化框架 A Self-Evolving Framework for Efficient Terminal Agents via Observational Context Compression