LLM 智能体中的外化:记忆、技能、协议与 Harness 工程的统一综述 Externalization in LLM Agents: A Unified Review of Memory, Skills, Protocols and Harness Engineering
以外化为统一视角,重构 LLM 智能体从权重到 Harness 的演进逻辑。
前置知识
认知外化(Cognitive Externalization)
源自 Donald Norman 的认知科学概念,指人类通过外部工具(清单、地图、笔记、计算设备)把原本需要在脑中完成的认知任务转移到外部表征上。关键洞见是:外部辅助不只放大能力,更会重构任务本身——把“回忆”变成“识别”,把“心算”变成“读数”。本论文将这一框架系统性地移植到 LLM 智能体上。
这是论文的核心分析透镜,理解它才能把握为何“把负担搬到模型外”是合理设计选择而非工程妥协。
大语言模型智能体(LLM Agent)
以 LLM 为推理核心,通过工具调用、记忆、多步规划等机制在环境中执行任务的系统。与一次性问答不同,智能体具备状态持久、目标分解、动作执行等能力。本论文讨论的“智能体”特指已具备运行时结构、而不仅有模型权重的系统。
理解智能体与裸 LLM 的区别,才能识别哪些能力来自模型、哪些来自外部基础设施。
Harness(智能体运行时支架)
工业界近期形成的术语,指包裹在 LLM 外、负责把“模型完成”变成“可靠执行”的所有运行时设施,包括循环控制、沙箱隔离、权限审批、可观测性、上下文预算管理等。OpenAI Codex、Anthropic Claude Code 等系统都明确以 Harness 命名其外层支架。
这是论文的中心对象;Harness 不只是“工程实现细节”,而是与记忆/技能/协议并列的认知层。
Model Context Protocol (MCP)
Anthropic 提出的开放协议标准(基于 JSON-RPC 2.0),用于在 Agent 与工具/服务之间提供统一的发现、描述、调用契约。客户端可通过 MCP 服务器暴露工具 schema,从而把工具集成从“逐个硬编码”变为“协议化扩展”。
MCP 是论文中“协议外化”最典型的工业代表,是理解智能体工具生态如何走向标准化的关键案例。
ReAct 与链式思考(Chain-of-Thought)
ReAct 让模型在单次生成中交替输出“思考”与“行动”,把推理和工具调用编织在同一循环里;CoT 则把中间推理步骤显式化以提升多步推理能力。两者都是“能力从权重外化到上下文”的早期范例。
它们是论文叙事“从权重到上下文到 Harness”演进路径的中间站,理解了 ReAct/CoT 才能跟上“为什么我们需要把能力再外推到 Harness”的论证。
研究动机
过去几年,LLM 智能体的可靠性提升越来越难以仅靠“换更大的模型”来解释。实践系统里大量稳定性收益其实来自环境改造:持久记忆、可复用技能、工具协议、沙箱、审批门、可观测性等。当任务跨越多个会话、需要长时间保持状态、调用多工具并遵守治理边界时,把所有认知负担都塞进模型权重的做法会暴露三类典型问题——上下文窗口有限且存在“中间遗忘”现象(Liu et al., 2024a)、多步流程每次重生成导致执行不稳定、跨工具/跨 Agent 的协作缺乏可被审计的契约。已有综述(如 CoALA、RAG、工具学习综述)虽然各自覆盖了某个切片,但缺少一个统一的“为什么这些看似无关的进展正在汇聚”的上层解释。
本文的目标是本文的目标是提出一个系统级分析框架,把“外化(externalization)”作为贯穿 LLM 智能体演进的统一逻辑,用以解释为什么近年来最值得关注的工程突破都集中在“把认知负担从模型内部搬到外部结构”上。具体而言,作者希望回答四个相互耦合的命题:记忆系统如何把跨时间状态变成可检索的工件;技能系统如何把流程专长封装为可重用构件;协议如何把交互结构变成机器可读契约;Harness 工程又如何把这三者拼装为可治理、可观测、可演化的运行体。最终产出的是一个能统一归类现有工作、预测下一步演进方向、并指导实践设计的系统视角。
与已有工作不同的是,已有相关综述(CoALA 强调认知架构、Qu et al. 2024 聚焦工具学习、Wang et al. 2024a / Li 2025 / Luo et al. 2025 覆盖智能体整体架构、Ehtesham et al. 2025c 关注协议互操作)大多只覆盖一个切片或仅以工程便利性视角讨论基础设施。本文最独特的切入角度是引入 Norman 认知外化理论作为“过渡逻辑(transition logic)”——明确指出外化的价值不在于“多挂一个组件”,而在于改变模型所面对的任务表征(recall→recognition、generation→composition、ad-hoc→structured)。这把分散的工程经验升格为一个可解释的设计哲学,并补足了“为什么这些趋势在汇聚”这一被忽视的问题。
核心方法
本文是一篇系统级综述(review),而非提出新算法的实证论文。其方法学本质是:选定“外化”作为统一分析透镜,沿“权重→上下文→Harness”的历史弧线对已有工作进行再分类与再叙事。直白地说,论文做的事情是给最近五年 LLM 智能体领域的代表性工作(MemGPT、MCP、A2A、Anthropic Skills、Codex、Claude Code、AutoGPT、Voyager 等)做一次“按外化维度”打标签的整理,并在每个维度上给出从“单体实现”到“自适应管理”的演进四阶段(或三阶段)谱系。技术路线上,作者先建立 Norman 认知外化、Hutchins 分布式认知、Kirsh 互补策略等理论锚点,然后依次解剖记忆、技能、协议三大外化模块,最后通过 Harness 工程把它们编织为一个运行体。
论文最核心的创新在于把“能力存在于哪一层”这一长期被默认等同于“模型大小”的问题,重新定义为“认知负担应该被外化到哪里”的工程分配问题。本质区别于既有综述的两点:第一,论文不是按“组件类别”(记忆模块、工具、协议)来组织内容,而是按“外化类型”(状态外化、流程外化、交互外化、Harness 协调)来组织——这种切法把原本互相独立的子领域串联为同一个设计原则的不同投影;第二,作者提出“代表变换(representational transformation)”作为评判外化有效性的标准:好的外化不是把负担挪到外部就算成功,而是要看任务表征是否被简化到模型能更可靠求解的形式。这一标准直接呼应 Norman 1991 的论述,是论文最具理论穿透力的判断。
方法步骤详情
本综述的论证结构可概括为四步:第一步(Section 2)建立历史弧线:先回顾“能力 = 权重”的早期范式(GPT-4、Gemini、DeepSeek-V3 等通过预训练 + SFT/RLHF/DPO 把能力装入参数),再指出“能力 = 上下文”的过渡(CoT、ReAct、Self-Refine、RAG、APO 等通过提示与检索改变单次调用的信息供给),最后定义“能力 = 基础设施”的当下阶段(Harness + 工具 + 记忆 + 协议 + 子智能体编排)。第二步(Section 3-5)按三个外化维度分别建立模块化框架:记忆维度把内容分为工作上下文、情节记忆、语义记忆、个性化记忆四类,把架构演进分为单体上下文、检索存储、层级管理与自适应管理四阶段(对应代表系统 MemGPT、Mem0、Memory-R1、Mem-α、MemEvolve、MemRL 等);技能维度建立“操作程序+决策启发+规范约束”三要素,识别“原子调用→大规模选择→封装能力包”三阶段演化,刻画“规范—发现—渐进披露—执行绑定—组合”五步生命周期;协议维度按 Agent-Tool(MCP、ToolUniverse)、Agent-Agent(A2A、ACP、ANP)、Agent-User(A2UI、AG-UI)、垂直领域(UCP、AP2)四类系统盘点。每个模块结尾都给出“作为认知工件”的认知科学解释(Norman、Kirsh)。第三步(Section 6)整合:定义 Harness 概念并提出六个分析维度——Agent 循环与控制流、沙箱与执行隔离、人工监督与审批门、可观测性与结构化反馈、配置/权限/策略编码、上下文预算管理;通过 OpenAI Codex、Anthropic Claude Code 等实际系统展示这些维度的具体实例。第四步(Section 7-8)做交叉分析:给出六条模块间耦合(记忆→技能、技能→记忆、技能→协议、协议→技能、记忆→协议、协议→记忆),从 LLM 输入/输出视角看每个模块在上下文窗口中扮演什么角色,并讨论参数化与外化能力的权衡空间(更新频率、可复用性、可审计性、延迟)。
技术新颖性
与已有综述相比,本文的新颖性主要不在提出新算法,而在“组织视角”的更新。技术新颖性体现在三点:第一,提出“外化 = 代表性变换”这一可操作的评判准则,把 Norman 1991 的认知外化理论系统化地落到 LLM 智能体领域,使“为什么这个外化设计有效”从经验论断升级为可推理命题;第二,把分散的子领域(记忆系统综述、工具学习综述、智能体架构综述、协议互操作综述)用“四种外化类型”的统一分类重新组织,并明示模块之间的六条耦合(这是 CoALA 等已有框架未充分展开的部分);第三,把 Harness 提升为“认知环境(cognitive environment)”而非普通软件基础设施——结合分布式认知(Hutchins 1995)和互补策略(Kirsh 1995)论证 Harness 实际上是设置“模型能认知什么”的环境约束,这一重新定位对实践工程有直接启发(让“为什么不同系统最终长得像”的现象变得可解释)。
实验结果
作为综述,本文的核心发现不是单一实验结果,而是一组系统性论断与文献归类。具体如下:第一,研究重心已显著外移。论文图 2 描绘了 2022-2026 年社区主题的“权重—上下文—Harness”三层堆叠演化:2022 年几乎所有论文都在 Weights 层(模型架构、预训练、SFT),到 2024-2025 年 Harness 层(工具生态、协议、技能、多智能体编排)的研究密度已明显超过纯 Weights 层的研究,且 Context 层(提示工程、RAG、CoT 变体)始终保持高密度。这意味着“以更大模型换更好智能体”的传统叙事已不能完全解释实际系统的可靠性收益。第二,记忆架构经历四级跃迁。从单块上下文(直接塞进 prompt)→ 检索存储(典型 RAG/GraphRAG/ENGRAM/SYNAPSE 等)→ 层级管理(Mem0、MemGPT、MemoryOS、MemoryBank、MIRIX、MemOS、xMemory 等显式管理 extraction、consolidation、forgetting 生命周期)→ 自适应系统(MemEvolve、MemVerse、MemRL、GAM 等通过动态模块或反馈式策略优化)。作者判断“真正的进步在于从存储问题变为控制问题”——存储不是稀缺资源,检索与策略才是。第三,技能系统出现“封装式专长”趋势。Stage 1(Toolformer 类的原子调用)→ Stage 2(Gorilla/ToolLLM/ToolNet/AutoTool/ToolScope 的大规模选择)→ Stage 3(program-based skill induction、Web 轨迹蒸馏、computer-use 技能图、SOP 引导智能体等把流程封装为可复用能力包)。以 Anthropic Claude Code 的 Skills 系统、SKILL.md/AGENTS.md 规范、progressive disclosure 三层加载为代表的工业实现,是“从提示工程走向能力工程”的具体证据。第四,协议生态向“四类 + 垂直”分化。Agent-Tool 侧 MCP 已成为事实标准(基于 JSON-RPC 2.0 提供服务器/客户端发现与调用);Agent-Agent 侧 A2A、ACP(轻量 REST/HTTP 友好)、ANP(去中心化互联网级)各有所长;Agent-User 侧 A2UI 解决界面生成、AG-UI 解决状态流标准化;垂直协议如 UCP(电商)、AP2(支付,含 IntentMandate/PaymentMandate/PaymentReceipt 凭证对象)填补通用协议无法覆盖的治理需求。第五,Harness 收敛于六维设计空间。论文通过对 OpenAI Codex、Anthropic Claude Code 等系统的横向比较,归纳出所有主流 Harness 都在不同程度上实现这六维:循环控制(步数/递归/成本上限)、沙箱隔离(云端文件系统快照 vs 渐进权限模式)、人工监督(pre-execution approval / post-execution review / escalation trigger / hook 系统)、可观测性(结构化日志、追踪、聚合指标)、配置与权限(user/project/organization 三层策略编码)、上下文预算(摘要压缩、优先级驱逐、阶段化加载)。两个系统独立实现却收敛到同一组设计维度,论文判断这是“外化智能体”的结构性需求而非偶然。第六,模块间耦合形成正反馈循环。六条耦合(记忆→技能、技能→记忆、技能→协议、协议→技能、记忆→协议、协议→记忆)整体构成一个自增强闭环:更好的记忆→更好的技能蒸馏→更丰富的执行追踪→更精确的记忆;同时也存在风险级联——一条被污染的记忆可导致一个有缺陷的技能,其执行轨迹又可进一步污染记忆。第七,作者将同一逻辑延伸到具身智能。提出“大脑—小脑”分工类比:高层 LLM 充当大脑(目标解释、任务分解、状态管理、异常处理),VLA 模型被重新定位为小脑(单一可调用技能模块,负责抓取、放置、倾倒、插入等原子操作),两者通过结构化协议通信。该框架在 RT-2、OpenVLA 等 VLA 模型和 SayCan、PaLM-E 等高层智能体的组合中已有体现。第八,外化与参数化能力存在清晰的取舍空间。论文从更新频率/可复用性/可审计性/延迟四个维度论证:高频变化的知识与流程(API、组织结构、实时环境状态)应外化以避免灾难性遗忘与重训成本;稳定且语义性的能力(语言理解、常识推理)仍宜保留在参数中;多 Agent 共享和高风险部署倾向于外化以获得审计与回滚能力;超低延迟与纯语义任务则保留参数化更可靠。
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| 记忆架构代表系统盘点 | 架构范式分类与代表工作数 | 归为 Monolithic / Retrieval / Hierarchical / Adaptive 四级,覆盖 MemGPT、MemoryOS、MemoryBank、MIRIX、MemOS、xMemory、MemEvolve、MemVerse、MemRL、GAM、Mem0、Memory-R1、Mem-α 等约 13+ 代表系统 | 已有 RAG 综述(Gao et al. 2024) | 把记忆从“检索增强”一个视角扩展为“四级架构谱系 + 与 Harness 的耦合”系统框架 |
| 技能系统演进阶段 | 三阶段代表工作数 | Stage 1(Toolformer 等原子调用)→ Stage 2(Gorilla/ToolLLM/ToolNet/AutoTool/ToolScope 大规模选择)→ Stage 3(program-based skill induction / Web 轨迹蒸馏 / computer-use 技能图 / SOP 智能体) | Qu et al. 2024 工具学习综述 | 把工具学习扩展为“调用—选择—封装”三阶段,明确技能作为外化能力包的概念 |
| 协议家族盘点 | 覆盖的协议类别与代表标准 | Agent-Tool(MCP, ToolUniverse)/ Agent-Agent(A2A, ACP, ANP)/ Agent-User(A2UI, AG-UI)/ 垂直(UCP, AP2)共 4 类 9+ 协议 | Ehtesham et al. 2025c 协议互操作综述 | 在协议互操作基础上加入“协议作为认知工件”的理论解释和 Harness 集成视角 |
| Harness 设计维度归纳 | 分析维度数与系统对照 | 六维分析框架(Loop、Sandbox、Human Oversight、Observability、Configuration、Context Budget),对照 OpenAI Codex、Anthropic Claude Code 等工业 Harness | Wang et al. 2024a / Li 2025 / Luo et al. 2025 智能体架构综述 | 在架构综述基础上提炼出独立于具体实现的六维分析空间,并给出认知环境解释 |
| 外化风险的实证证据 | 案例来源 | 援引 Liu et al. 2026(公共技能生态系统中 prompt injection / 数据外泄 / 权限升级 / 供应链风险)、Wang et al. 2026c(技能文件本身可成为提示注入面)、OpenClaw 分析的“致命三件套”(敏感数据 + 不可控外发 + 不可验证执行) | (无单一对照基线) | 首次以综述形式系统化指出技能外化同时引入新攻击面 |
局限与改进
作为一篇以“统一视角”为目标的综述,本文存在以下局限:第一,理论框架的隐含风险。“外化 = 代表性变换”这一核心论断有较强的解释力,但作者也在 4.7 节明确承认“该解释主要是理论性的而非直接经验性的”,缺乏针对“哪种外化设计带来最大可靠性提升”的量化实验支撑。换言之,论文告诉读者外化是好的,但没给出一个判定“外化多少算最优”的可操作阈值。第二,文献覆盖偏向工业实证而缺乏系统对照实验。论文引用的代表系统(MemGPT、Codex、Claude Code、MCP、Voyager 等)多为工业项目,缺少跨系统的统一基准测试结果,因此“哪条外化路径在哪个任务上更优”难以断言。第三,对外化失败的边界条件讨论仍有缺口。Section 4.5 提到了语义对齐、可移植性、不安全组合、上下文相关退化四类边界条件,但作者也坦承“针对这些影响的直接技能级证据仍然有限”(Lee, 2026 引用),主要依赖相邻领域(多轮漂移、长上下文推理)做推论。第四,对小模型/弱模型场景的适用性存疑。论文隐含假设是 LLM 本身有较强的指令遵循与上下文识别能力(这是外化能成立的前提),但对算力受限的本地小模型场景(7B-13B),外化带来的“识别和跟随”开销可能反而超过其收益,这部分讨论几乎缺失。第五,“自我演化 Harness”在 Section 8.3 中作为重要方向提出,但作者仅给出 RL/程序合成/进化搜索/模仿学习四条路径的列举,没有具体技术细节或实验数据,更像是研究议程而非已完成工作。第六,对社会-制度层面影响(如外化对劳动力、AI 治理、知识产权的影响)几乎未触及,仅在 Section 8.4 简略提到治理与回滚。
独立分析的弱点
作为独立分析,我观察到以下几点可在未来工作中加强:第一,缺少量化“外化收益”的统一基准。论文反复论证“外化是好的”,但没有给出一个“在不增加模型规模的前提下,仅通过外化基础设施能提升多少百分点任务成功率”的横评数据。建议建立一个类似 AgentBench 但专注于“Harness-only 改进”的分层基准——固定基础模型,只切换 Harness 组件(记忆架构、技能加载、协议层等),测出各外化模块的边际贡献。改进方向:参考 SkillsBench(Li et al. 2026c)已有的跨域测试思路扩展到 Harness 维度。第二,技能系统的“渐进披露”缺乏失效模式分类。Section 4.3.3 用 Anthropic Claude Code 举例,但没系统化讨论“披露多少层才合适”——披露过浅导致模型不知道有这个能力,过深又挤占上下文。改进方向:建立技能加载的 cost-aware disclosure 协议,把披露层数与任务相似度、历史成功率、剩余上下文预算相关联。第三,协议层的“协议碎片化”风险被低估。论文列举了 MCP/A2A/ACP/ANP/A2UI/AG-UI/UCP/AP2 等多套协议,但未正面回答“如果每一类都各立标准,是否会重演 web 早期的协议大战”。改进方向:在综述基础上加入“协议收敛性分析”——评估各协议在覆盖范围、生态成熟度、企业采纳率上的差异,给出当前最可能的事实标准组合。第四,外化与参数化权衡缺乏可计算模型。Section 7.3 提出了四个维度的定性权衡,但未给出“何时外化、何时保留”的决策规则。改进方向:把“更新频率 × 复用频次 × 治理需求 × 延迟预算”建模为四维权衡表,给出每个象限的推荐外化策略。第五,对多模态外化的处理仍偏示例性。Section 8.1 提到 MemVerse、TED、computer-use 技能等,但未触及“图像/视频作为外化媒介带来的检索与可观测性新挑战”。改进方向:在 Section 8 之后增设“多模态外化特有问题”小节,涵盖视觉记忆的时空索引、跨模态技能 schema、协议对非结构化媒体的承载方式等。第六,自我演化 Harness 的风险讨论不足。Section 8.3 把“自我演化”作为重要未来方向,但 Section 8.4 又指出“自适应可能引入新失败模式更快于解决旧问题”,两者之间缺少“演化收敛条件”的形式化讨论。改进方向:明确提出类似“演化必须满足的不变量”——例如每次 Harness 自修改后必须能通过回归测试集、必须保留回滚点。
未来方向
基于论文成果可延伸的研究方向可分为四类。第一,测量与基准(呼应 Section 8.6):开发专门评估外化贡献的基准套件——可迁移性(换基模后是否仍有效)、可维护性(技能/协议/记忆策略更新后系统的退化曲线)、恢复稳健性(检测失败、回滚部分动作、从检查点恢复的能力)、上下文效率(外化开销 vs 任务相关推理的预算分配)、治理质量(透明性与可逆性)等维度。AHB(Agent Humanization Benchmark,Zhu et al. 2026)已是一个开端。第二,自我演化 Harness 的可治理设计(呼应 Section 8.3):把 Harness 的配置、策略、执行逻辑视为可被 Agent 检查、批评、修改的对象;探索 RL、程序合成、进化搜索、模仿学习的组合使用;提出“演化不变量”保证自我修改不会破坏可解释性或回滚能力。第三,从私有支架到共享基础设施(呼应 Section 8.5):当记忆、技能、协议从单 Agent 走向多 Agent 共享时,研究的关键问题包括:共享记忆的事务一致性、共享技能市场的版本管理与供应链安全(Liu et al. 2026 的实证研究已揭示公共技能生态系统的真实风险)、共享协议在去中心化身份与跨域发现下的可行性(ANP 已开此方向)。第四,具身外化与物理治理(呼应 Section 8.2):把“大脑—小脑”分工从数字 Agent 推到机器人平台;研究物理动作不可逆性带来的新治理约束、低延迟控制回路与高层规划如何通过协议化交互、模拟训练环境与物理部署之间的迁移挑战。
复现评估
本文作为综述类论文,不存在传统意义上的“复现实验”。读者可复现的资源主要来自论文所引用的代表系统:记忆系统方面,MemGPT(github.com/cpacker/MemGPT)、Mem0(github.com/mem0ai/mem0)、MemoryBank、MemoryOS、MIRIX、MemEvolve、MemRL、Memory-R1、Mem-α、xMemory 等均已在 GitHub 公开代码与论文;技能系统方面,Toolformer 的训练数据与模型可复现,ToolLLM 公开了 ToolBench 数据集,Claude Code 的 Skills 系统(Anthropic 2025)和 SKILL.md 规范可参考 Anthropic 官方文档,program-based skill induction(Wang et al. 2025c)和 SOP 引导智能体(Ye et al. 2025)有对应论文与代码;协议方面,MCP(modelcontextprotocol.io)、A2A(github.com/a2a-protocol)、AG-UI、ACP、ANP 等协议规范均可在线获取,多个参考实现已开源;Harness 方面,OpenAI Codex CLI、Claude Code、LangGraph、CrewAI、AutoGen、MetaGPT、OpenHands、SWE-agent、Voyager、Reflexion 等都是成熟的开源项目。算力方面,论文本身不需要大规模训练;如要复现其中所提系统,典型 LLM Agent 实验需要至少 4-8 张 A100/H100 级别 GPU 用于本地模型推理,云端 API 方案下成本取决于任务规模。整体复现难度:低到中等——综述层面的论点可通过阅读 Section 1-7 + 关键引用论文获得;工业 Harness 设计模式可通过直接使用 OpenAI Codex、Claude Code 等命令行工具体验;学术系统的复现需具备 LLM 推理、RAG 流水线、向量数据库(ChromaDB/Pinecone)等基础知识。最大的“复现门槛”其实在概念层面——读者需先熟悉 Norman 认知外化、Hutchins 分布式认知、Kirsh 互补策略等理论锚点,才能准确把握作者的分析意图。
论文图表
三段式图:上面板展示人类认知外化弧线(Thought → Spoken language → Written symbols → Mass-produced text → Digital data),中面板展示 LLM 智能体的对应外化弧线(Weights → Memory/Skills/Protocols → Harness),下面板是文献地形图,把代表工作映射到 Weights/Context/Harness 三个能力层。
这是论文的中心视觉论据,把“外化是统一逻辑”这一抽象命题浓缩为可视化的双弧线类比;理解此图是把握全文论证的关键。
三层堆叠时间线,跨越 2022-2026,展示社区研究主题从 Weights 层(模型架构、预训练)→ Context 层(提示工程、RAG)→ Harness 层(工具、协议、技能、多智能体编排)的渐进外移。
为“研究重心已外移”提供时间维度证据,让读者直观看到为什么“更大模型 ≠ 更好智能体”是经验事实而非空话。