MemoBrain：执行记忆作为推理的代理大脑 MemoBrain: Executive Memory as an Agentic Brain for Reasoning
一种为工具增强代理设计的执行记忆模型，通过结构化记忆管理实现长程推理
前置知识
工具增强代理 (Tool-Augmented Agent)
工具增强代理是指能够调用外部工具（如搜索引擎、代码执行器、数据库查询）来扩展自身能力的大语言模型系统。这类代理通过交错进行推理和工具调用来解决复杂任务，例如在网络搜索中查找信息、执行代码验证假设或访问专业数据库。与纯文本推理不同，工具增强代理需要处理工具返回的异构信息，包括网页内容、代码执行结果、API响应等，这些信息往往格式多样、质量参差不齐。
本文研究的核心问题正是工具增强代理在长程交互中面临的记忆管理挑战，理解这种代理架构是理解MemoBrain设计动机的前提。
执行记忆 (Executive Memory)
执行记忆是一种专门为复杂推理任务设计的在线记忆机制，它在每个任务开始时从零初始化，并随着推理轨迹在线演化。与跨任务记忆不同，执行记忆不会在任务完成后持久化；与长期记忆不同，它不仅仅是增量维护的条件上下文，而是一个主动适应推理过程演化结构的表示。执行记忆的功能类似于人类工作记忆中的中央执行系统，负责监控和控制信息流，确保推理过程保持连贯性和目标导向。
这是本文提出的核心概念，理解执行记忆与传统记忆形式的区别是把握论文创新点的关键。
记忆图 (Memory Graph)
记忆图是一种有向图结构，用于表示推理轨迹中的依赖关系。图中的节点代表推理步骤（称为“思想”），每条有向边表示一个思想对另一个思想的依赖关系。这种结构不仅捕获了时间顺序，更重要的是编码了因果和语义依赖，例如哪个子任务的结论支持了后续哪个假设的验证。记忆图随着推理的进行而演化，新节点不断加入，旧节点可能被折叠或刷新。
记忆图是MemoBrain实现结构化记忆管理的基础，理解其构建和操作方式是理解整个系统的关键。
上下文管理 (Context Management)
在长程推理任务中，随着推理步骤的增加，累积的上下文信息会逐渐填满大语言模型的有限上下文窗口。上下文管理是指通过各种技术手段（如摘要、压缩、选择性删除）来控制上下文大小，确保模型始终在有限预算内获得最相关、最有用的信息。有效的上下文管理需要在信息保留和上下文压缩之间取得平衡，既要保留足够的推理结构以维持连贯性，又要移除冗余或过时的信息以释放空间。
MemoBrain的核心贡献之一就是提出了一种结构化的上下文管理机制，通过折叠和刷新操作来主动控制上下文，而不是被动累积。
副驾驶式架构 (Copilot-Style Architecture)
副驾驶式架构是指将记忆系统设计为一个独立的组件，与推理代理并行运行，而不是嵌入到推理代理内部。在这种架构中，记忆系统作为“副驾驶”持续监控推理过程，异步构建记忆，并在需要时主动管理上下文，而推理代理则专注于当前的推理任务。这种设计将记忆控制与推理执行解耦，使得记忆模块可以灵活地集成到不同的代理框架中。
MemoBrain采用副驾驶式架构是其与现有方法的重要区别之一，这种设计带来了更好的模块化和可重用性。
研究动机
在工具增强的代理框架中，复杂推理任务本质上是长程的，需要多轮工具交互和迭代推理。随着推理的进行，推理轨迹和工具生成的工件会不断累积，例如在GAIA基准测试中，一个任务可能需要数十次搜索查询和代码执行，每次都会产生数千个token的上下文。这种累积会逐渐填满大语言模型有限的工作上下文（通常为128K token），导致瞬态信息占据主导地位，分散模型对任务相关证据的注意力，最终造成认知过载和任务对齐退化。具体来说，当上下文超过一定阈值时，模型开始“遗忘”早期的关键结论，或者被中间的探索性步骤干扰，无法维持逻辑连续性。现有方法虽然意识到了这个问题，但大多将记忆视为被动的信息存储，缺乏对推理过程的主动控制和结构化建模。
本文的目标是本文的具体目标是在有限的上下文预算下，实现连贯的、任务对齐的长程推理。更具体地说，MemoBrain旨在：（1）将推理轨迹抽象为结构化的依赖感知记忆，保留逻辑骨架同时丢弃短暂的执行工件；（2）通过显式的记忆操作（折叠和刷新）主动管理工作上下文，确保在固定预算内提供高相关性的上下文；（3）作为一个独立的模块集成到不同的工具增强代理框架中，提升多种模型规模下的推理性能。论文在GAIA、WebWalker和BrowseComp-Plus三个具有挑战性的基准上评估了MemoBrain，目标是证明其在长程推理任务中的有效性和通用性。
与已有工作不同的是，本文的独特切入角度在于将记忆重新概念化为一个显式的控制机制，而不是被动的上下文存储。现有工作主要从工程效率的角度看待记忆，将其视为减少上下文开销的手段，而忽略了记忆在全局任务对齐、轨迹级控制和推理过程认知建模中的作用。MemoBrain抓住了这个被忽视的点：长程推理不仅需要减少上下文长度，更需要结构化和语义感知的记忆操作来保留推理轨迹的逻辑骨架。通过将记忆设计为一个独立的“副驾驶”组件，MemoBrain实现了记忆控制与推理执行的解耦，这使得它能够更灵活地集成到不同的代理框架中，并支持更丰富的认知操作。这种视角将记忆从单纯的效率优化提升为维持推理连贯性的核心组件。
核心方法
MemoBrain的方法可以类比为一个经验丰富的项目经理与一个专注执行的任务团队的协作。项目经理（记忆系统）不直接执行具体任务，而是持续观察团队的工作进展，记录关键决策和结论，识别哪些工作已经完成、哪些需要调整，并在资源（上下文预算）有限的情况下确保团队始终聚焦于最重要的信息。从技术路线来看，MemoBrain包含两个互补的过程：记忆构建和记忆管理。在记忆构建阶段，完成的推理步骤被异步抽象为紧凑的“思想”单元，每个思想编码了所解决的子问题、使用的信息或工具以及产生的结果，并通过显式的依赖关系链接到先前的思想。在记忆管理阶段，当累积的上下文接近预算限制时，MemoBrain通过折叠已完成的子轨迹和刷新低效用的思想来重组工作上下文，确保在固定预算内保留高相关性的推理骨架。整个系统作为副驾驶与推理代理并行运行，不阻塞推理执行。
MemoBrain的核心创新点在于将记忆设计为一个显式的执行控制机制，而不是被动的上下文存储或效率优化工具。与现有方法的本质区别体现在三个层面：首先，在功能定位上，现有方法（如AgentFold、ContextFolding）主要关注减少上下文开销，而MemoBrain还承担了全局任务对齐、轨迹级控制和认知建模的职责；其次，在架构设计上，现有方法通常将记忆嵌入到推理代理内部，导致记忆控制与推理执行纠缠，而MemoBrain采用副驾驶式设计，将记忆作为独立组件与推理代理解耦，这使得记忆模块可以灵活地跨不同代理框架重用；最后，在记忆表示上，MemoBrain构建了依赖感知的记忆图，不仅保留了时间顺序，还编码了推理步骤之间的因果和语义依赖关系，支持更丰富的结构化操作。这种设计使得MemoBrain能够提供“即时”的任务相关上下文，而不是被动地累积所有信息。
方法步骤详情
MemoBrain的方法包含以下完整步骤：（1）记忆构建：当一个推理步骤 $x_t$ 完成后，MemoBrain将其抽象为一个思想 $v_t$。每个推理步骤由瞬态执行信息 $\tau_t$（如工具调用和原始输出）和解析的语义结果 $\omega_t$ 组成。MemoBrain关注捕获 $\omega_t$ 的任务相关贡献，通过记忆化指令将 $x_t$ 映射为执行级抽象 $v_t = \phi(x_t, G_{t-1})$，其中 $G_{t-1}$ 是当前记忆状态。新形成的思想被初始化为激活状态，并记录对先前思想的依赖关系 $Dep(v_t) \subseteq \{v_1, \ldots, v_{t-1}\}$。随着推理进行，这些思想和依赖关系形成演化有向记忆图 $G_t = (V_t, E_t)$。（2）记忆管理：当上下文接近预算时，MemoBrain激活执行记忆管理过程。它根据当前记忆图 $G_t$ 产生一组执行操作 $O_t = \phi(G_t)$，包括两种操作：FOLD（折叠）将已解决子轨迹 $T_{i:j}$ 折叠为单个摘要思想 $\bar{v}$；FLUSH（刷新）将低效用思想 $v_k$ 替换为紧凑思想 $\hat{v}_k$，保留高级结构信息同时丢弃执行细节。（3）上下文重组：应用操作后，MemoBrain将更新后的记忆图 $G_{t+1}$ 投影到新的工作上下文 $C_{t+1} = \psi(G_{t+1})$，确保上下文保持紧凑且语义充足。
技术新颖性
MemoBrain的技术新颖性主要体现在以下几个方面：首先，它提出了“执行记忆”这一新的记忆范式，将其定义为专门为工具增强推理设计的在线机制，这与跨任务记忆（持久化跨任务经验）和长期记忆（增量维护的条件上下文）形成了明确区分。其次，MemoBrain采用两阶段训练策略来优化记忆构建和记忆管理的不同功能需求：记忆构建作为高频语义抽象问题，通过监督微调优化；记忆管理作为稀疏决策驱动过程，通过直接偏好优化（DPO）学习。第三，MemoBrain设计了结构化的记忆操作（FOLD和FLUSH），这些操作作用于记忆图的子图或单个节点，而不是简单地截断或压缩上下文。第四，整个系统作为独立组件设计，可以作为“即插即用”模块集成到不同的代理框架中，无需架构特定的定制。这种模块化设计使得MemoBrain能够与GLM-4.6和DeepResearch-30B-A3B等不同的基线代理有效协作，展示了其通用性和灵活性。
实验结果
论文在三个具有挑战性的基准上进行了全面评估，结果表明MemoBrain能够持续提升基线代理的性能。在GAIA基准上，当与DeepResearch-30B-A3B结合时，MemoBrain在Level-1、Level-2和Level-3上分别达到82.1%、69.2%和58.3%的准确率，总体平均准确率为74.5%，相比基线代理的68.9%提升了5.6个百分点。值得注意的是，在最困难的Level-3任务上，MemoBrain带来了16.6个百分点的显著提升（从41.7%到58.3%），这表明执行记忆在更复杂的推理场景中效益更大。在WebWalker基准上，MemoBrain在Easy、Medium和Hard难度上分别达到73.1%、72.1%和64.2%的准确率，总体平均69.6%，相比基线的68.2%提升了1.4个百分点。在BrowseComp-Plus基准上，MemoBrain与GLM-4.6结合达到55.06%的准确率，相比基线的48.19%提升了6.87个百分点；与DeepResearch-30B-A3B结合达到60.36%，相比基线的51.93%提升了8.43个百分点。这些结果表明，MemoBrain的增益在更困难的推理场景中更为明显，这正是因为这些场景中长程工具交互对上下文窗口的压力更大。消融研究进一步验证了设计选择的有效性：移除折叠或刷新操作都会导致性能下降，而直接删除或随机删除推理步骤会严重损害性能，这表明MemoBrain的增益不仅来自减少上下文长度，更来自结构化和语义感知的记忆操作。效率分析显示，MemoBrain的异步记忆构建不会带来端到端延迟开销，并且能够支持有效推理超过数百K token，同时使用更小的固定上下文预算。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| GAIA (General AI Assistant) | Pass@1 准确率 | 74.5% (MemoBrain-8B w/ DeepResearch-30B-A3B) | 68.9% (DeepResearch-30B-A3B) | +5.6个百分点 |
| GAIA Level-3 (最难) | Pass@1 准确率 | 58.3% | 41.7% | +16.6个百分点 |
| WebWalkerQA | Pass@1 准确率 | 69.6% | 68.2% | +1.4个百分点 |
| BrowseComp-Plus (w/ GLM-4.6) | 准确率 | 55.06% | 48.19% | +6.87个百分点 |
| BrowseComp-Plus (w/ DeepResearch-30B-A3B) | 准确率 | 60.36% | 51.93% | +8.43个百分点 |
局限与改进
论文坦诚地承认了几个重要的局限性。首先，MemoBrain假设底层推理代理能够支持持续的长程工具使用和迭代推理，但许多当前的大语言模型倾向于在有限的工具调用后提前终止推理，导致累积的上下文无法达到触发记忆管理的阈值，限制了执行记忆的实际效益。作者在Qwen3-30B-A3B-Instruct和Qwen3-30B-A3B-2507-Thinking的实验中观察到了这一限制。其次，虽然记忆图自然支持更丰富的认知操作（如重新激活已刷新的推理步骤或将记忆图分区用于并行探索），但本文仅关注折叠和刷新两种核心操作，目的是隔离执行记忆控制的基本效果。第三，实验比较并未包含所有潜在相关的基线，因为一些记忆增强方法主要针对长上下文设计，无法轻易适应动态推理轨迹，或者缺乏公开实现或需要超出作者约束的计算资源。此外，作者复现的DeepResearch-30B-A3B在GAIA和WebWalker上的结果略低于原始论文报告，部分原因是工具实现差异（如搜索质量和代码执行），但所有比较实验都在相同设置下进行，确保了相对改进的有效性和意义。
独立分析的弱点
基于对论文的深入分析，我识别出几个可以改进的弱点。首先，MemoBrain的记忆管理操作相对简单，只有折叠和刷新两种，这限制了其处理复杂推理模式的能力。例如，当推理涉及多个并行分支或需要回溯到早期决策点时，当前的操作集无法有效支持。改进方向是引入更丰富的操作，如分支（将记忆图分割为多个并行路径）、合并（整合来自不同分支的结论）和回溯（重新激活已刷新的节点以探索替代假设）。其次，MemoBrain的优化策略将记忆构建和记忆管理分开训练，这可能导致两个阶段之间的目标不一致。记忆构建阶段通过监督微调优化语义抽象，而记忆管理阶段通过DPO优化决策，两者之间缺乏端到端的联合优化。改进方向是设计统一的训练框架，使记忆构建和管理能够协同优化。第三，MemoBrain的性能对基线代理的能力有较强依赖，当基线代理本身推理能力较弱时（如Qwen3-30B-A3B），MemoBrain的增益有限。这表明执行记忆的效果在很大程度上取决于底层代理的质量，改进方向是设计自适应的记忆策略，根据代理的能力动态调整记忆管理的激进程度。
未来方向
论文和基于其成果可以延伸出多个有前景的研究方向。作者提出的未来工作包括探索更高级的记忆操作及其协调，例如重新激活已刷新的推理步骤或将记忆图分区用于并行探索。基于MemoBrain的成果，还可以延伸以下方向：（1）跨任务执行记忆的迁移：虽然执行记忆在每个任务中从零初始化，但可以研究如何从相似任务的记忆模式中学习先验知识，加速新任务的记忆构建。（2）多代理协作中的记忆共享：在多个代理协作解决复杂任务时，如何设计共享的执行记忆结构，使得不同代理能够访问和更新彼此的记忆。（3）记忆感知的推理规划：将记忆状态作为推理规划的输入，使代理能够根据当前记忆的完整性和质量调整后续的推理策略。（4）动态上下文预算分配：根据任务的复杂性和推理阶段，动态调整记忆预算的分配，例如在探索阶段分配更多预算，在收敛阶段减少预算。（5）记忆的可解释性和调试：利用记忆图的结构化表示，开发工具来可视化和调试推理过程，帮助用户理解代理的决策逻辑。
复现评估
论文在可复现性方面提供了较好的支持。代码已在GitHub仓库公开，包含了完整的实现细节。训练数据基于InfoBenchmark合成，包含超过50K个复杂推理QA对，使用DeepSeek-V3.2作为记忆oracle生成监督信号，最终产生37,719个记忆构建样本和3,016个记忆管理样本。数据合成的API成本为389美元。所有模型使用LlamaFactory训练，学习率为2×10^{-5}，梯度累积步数为8，每设备批大小为1，最大梯度范数为1.0，AdamW优化器，3个训练周期，最大序列长度为32K token。训练时间为4B、8B和14B模型分别为17、21和27小时。推理实验在8块NVIDIA H100 80G GPU上进行。对于想要复现的研究者，需要注意以下几点：（1）需要访问高质量的搜索API（如Google Custom Search API）和网页阅读API（如Jina.AI）；（2）训练数据合成需要较大的API成本；（3）需要8块H100 GPU进行主要实验，但较小的模型（如4B）可以在更少的GPU上训练。总体而言，论文提供了足够的细节来复现结果，但计算资源需求较高。
论文图表
表2展示了在BrowseComp-Plus基准上，在相同检索设置下不同方法的性能比较。MemoBrain与GLM-4.6和DeepResearch-30B-A3B结合，分别达到55.06%和60.36%的准确率，显著优于基线方法。表格还显示了搜索调用次数，MemoBrain能够进行更多有效的工具调用。
这个表格特别重要，因为它展示了MemoBrain在复杂浏览任务中的优势，并且通过搜索调用次数的比较，说明了MemoBrain如何帮助代理进行更有效的工具使用。