能力驱动的智能体记忆自进化（PRISMEM） Capability-Driven Self-Evolution of Agent Memory
将记忆自进化按能力维度分解，百万token基准上超越最强基线7.83至10.54个百分点
前置知识
可执行记忆程序
把智能体的记忆系统（如何抽取、索引、检索、组织信息并生成回答）写成一段可执行代码，而不是固定的管线配置。LLM 像改代码一样迭代修改该程序，使其在训练任务上得分更高，进化结束后冻结该程序用于最终评估。M⋆、MemEvolve 等方法都采用这种表示。
本文进化的对象就是这样的程序，论文的五组件细粒度接口与 revision-aware 执行复用都建立在'记忆=代码'这一表示之上，不理解它就无法理解方法如何修改记忆系统。
记忆自进化
用任务反馈迭代改进记忆程序的过程：在训练任务上执行当前程序，LLM 根据失败案例诊断问题并改写实现，用验证集衡量每次改进，循环若干轮后保留最佳版本。EvolveMem 优化检索策略配置，M⋆、MemEvolve、MemPro 则进化完整的记忆结构与处理逻辑。
本文研究的正是自进化中的搜索引导问题——'下一步往哪个方向改'。理解'评估—诊断—修改'这一基本循环，才能看清能力驱动改造在每个环节的切入点。
整体式进化与能力驱动进化
整体式进化把所有任务的混合反馈压缩成总分这一标量信号来指导搜索、判断进步；能力驱动进化则把任务按所需能力（事实检索、时间追踪、偏好提取、多会话合成、对抗性）分组，用能力级分数保留那些单能力有真实收益的修改，从而扩展探索边界。
这是全文的核心对比：论文所有设计（能力专家维护、依赖感知调度、追踪引导整合）都是为了实现后者并克服前者'方向模糊'与'收益被掩盖'两大缺陷。
能力专家程序
对每个能力维度分别记录的历史最优记忆程序 $P^\star_t(c)$。细化某个能力时从它的专家出发修改，这样单能力收益即使被总分掩盖也不会丢失；由于每个保留程序都在全部任务上评估，一个程序可同时担任多个能力的专家。
专家机制是能力级评估的具体载体：阶段 II 的细化以专家为起点，阶段 III 的整合把各专家的互补收益合并进统一程序，是理解算法流程的关键概念。
配对差异案例
同一任务案例在两个不同记忆程序（如总体最优程序与某能力专家）上的执行结果对比。对每个能力选取基础程序与专家分数差最大的训练案例，两者的行为差异最能暴露专家改动的收益与副作用，用于指导把互补机制合并进统一程序。
阶段 III 的追踪引导整合完全依赖这种对比，它是'能力级探索成果如何无损转化为最终程序'这一关键问题的答案。
LLM-as-Judge 评分
由 LLM 按基准提供的评分标准给开放式回答打分（归一化到 $[0,1]$ 区间），无需精确字符串匹配。BEAM 与 LongMemEval 都采用各自内置的 LLM judge 衡量记忆问答质量，本文直接使用这些分数作为总分与能力分。
论文所有实验数字（如 BEAM-1M 总分 63.39）都来自裁判模型打分，理解这一指标才能正确解读实验结果，也才能意识到其潜在的裁判偏差局限。
研究动机
现有自进化记忆方法（M⋆、EvolveMem、MemEvolve、MemPro）普遍采用整体式进化：把来自不同能力任务的混合反馈压缩成一个标量总分，用它决定修改方向并判断每次修改的价值。作者在 BEAM 上分析 M⋆ 与 EvolveMem 的进化轨迹后发现了两个系统性问题。其一，优化方向模糊：混合反馈把需要不同能力的失败混在一起，同一个记忆组件的修改可能有多种方向且跨能力效应各异——例如放宽检索范围可能提升多会话推理，却因引入无关个人记忆而加剧过度个性化，实现并评估之前无法预判实际效果。其二，有价值的修改被掩盖：图 1(a) 显示 80.5% 的总分无增益的修改其实在至少一个能力上有所提升，这些能力收益被其他能力的回退抵消，导致有效机制在尚未被细化、整合并体现到总分之前就被丢弃。这一问题在性能平台期尤其突出——边际收益极易被总分掩盖，搜索被锁死在当前解附近的有限能力空间内。
本文的目标是本文的目标是把记忆自进化的搜索空间从单一的总分维度提升到多个能力级维度，即'能力驱动进化'。具体包含三层诉求：让每种能力的针对性反馈指引聚焦的诊断与显式的修改方向，消除混合反馈带来的方向歧义；用能力级评估保留那些总分虽未提升、却在某个能力上有真实收益的中间版本，使其有机会被继续细化和整合，而不是中途夭折；最终把沿不同能力方向探索得到的能力专家程序合并成一个更强、能力间互不拖累的统一记忆程序。作者还希望验证该范式在超长历史下的泛化能力：在 BEAM-100K 与 LongMemEval-S 的短上下文划分上进化 20 轮，然后直接在内容不同的 BEAM-1M 与 LongMemEval-M（超过 100 万 token）上测试，考察进化出的设计选择能否迁移到百万 token 历史。
与已有工作不同的是，本文的独特切入是视角转换：把记忆进化类比棱镜分光，将整体优化分解为沿各能力维度的子搜索。以往方法用总分这一标量信号决定探索，本质上是在混合反馈给出的多个未验证方向中盲选；本文改为显式地沿能力维度扩展探索边界，并激活了一个此前被忽视的资源——所有保留程序在同一训练任务集上的执行轨迹。由于每个候选程序都在相同案例上被评估，任意两个程序在同一案例上的行为差异可以直接对比，这些配对差异案例成为整合互补收益的实证依据，而非在方向集合中二选一。此外，论文用结构化基率先验识别能力间的隐性依赖（如时间追踪缺陷会对同时需要时间信息的多会话合成任务产生 disproportionate 的错误压力），并用'回归见证'案例——历史上表现好、现在失败的案例——精确定位最近修改的副作用。这些机制都超出以往整体式进化的设计范畴。
核心方法
PRISMEM 的直觉是：与其用总分这一模糊信号引导搜索，不如像棱镜一样把进化分解为沿各能力维度的子搜索。技术上，它把记忆程序表示为可执行代码并分解为 Extraction、Indexing、Planning、Retrieval、Answer 五个组件，比常用的 add/retrieve 抽象提供更局部的修改边界；进化围绕五种能力组织：事实检索 F、时间追踪 T、偏好提取 P、多会话合成 M、对抗性 A（表 1）。训练/验证任务由 LLM 离线标注一个主能力 $\ell(x)$ 和至多两个次能力 $\sigma(x)$，标注只用于组织反馈，从不提供给被评估的记忆程序以保证公平。流程分三阶段：冷启动（$T_1=5$ 轮）快速修补种子程序的普遍短板；能力细化阶段执行依赖感知的能力选择与历史引导诊断；最后追踪引导整合把各能力专家合并为统一程序。总进化预算 20 轮，任务/反思/编码/裁判模型均为 Qwen3.8-27B，嵌入模型 Qwen3-Embedding-8B，在 BEAM-100K 与 LongMemEval-S 上进化、BEAM-1M 与 LongMemEval-M 上测试。
核心创新是把搜索信号从标量总分升级为能力级信号，并让被评估程序的行为差异本身成为优化依据。与 M⋆ 等整体式进化的本质区别有三点。第一，能力级评估：为每个能力维护最优专家程序 $P^\star_t(c)$，总分无增益但有单能力收益的修改得以保留继续细化——这类修改占全部无总分增益修改的 80.5%，以往方法会直接丢弃它们。第二，依赖感知能力选择：用结构基率先验 $D(c_p\to c_s)$ 与错误集中度 $F$ 之差量化次能力对主能力任务的隐性错误压力，聚合时取最大值而非求和以避免度中心性偏差、聚焦最尖锐的结构瓶颈，再用历史分配次数折扣避免在平台期能力上重复烧预算。第三，追踪引导整合：比较基础程序与专家在配对差异案例上的执行结果，把行为差异作为合并互补机制的指导，整合失败的实现连同其执行结果会被一起返回给编码模型重试。这使更广的能力级探索最终被转化为一个更强的统一程序，而非停留在孤立的收益上。
方法步骤详情
阶段 I 冷启动：从刻意简单的种子程序 $P_0$ 出发，跨全部能力做 $T_1=5$ 轮联合优化；用指标表对比参考证据与(i)抽取记忆单元、(ii)以证据为查询的检索内容、(iii)以问题为查询的检索内容的语义相似度，定位抽取/索引/检索哪个环节薄弱，验证集最高分程序进入下一阶段。阶段 II 能力细化：每轮按 $\rho_t(c)=U_t(c)/(1+n_t(c))$ 选目标能力，$U_t(c)=\bar{e}_{t,c}(c)+\max_{c_p} I_t(c_p\to c)$、$I_t(c_p\to c_s)=\bar{e}\cdot[F-D]_+$，$D$ 为主能力任务中含该次能力的基率比例，$F$ 为专家错误在其上的集中度，$n_t(c)$ 为历史分配次数；细化从目标能力专家出发，选 $K=5$ 个案例诊断：过滤得分高于 $\delta=0.8$ 的案例后，按 $w_t(i)=\frac{1+\text{历史均分}}{(1+m_t(i))(1+m_t(\sigma))}$ 排序，历史高分案例充当回归见证，高频案例被折扣。阶段 III 整合：按谱系拓扑由近及远逐个并入专家，每能力选基础程序与该专家分差最大的配对差异案例，最多 $T_3=3$ 轮，若总分未提升或有能力下降超过 $\theta$ 则带执行结果重试。效率上，紧凑诊断上下文降低 44% 诊断 token，执行复用跳过未改组件的重算。
技术新颖性
技术新颖性体现在四个层面。范式层面：首次将记忆自进化的搜索引导提升到能力维度，提出能力驱动进化新范式，消融显示去掉它总分掉 10.15 个百分点（63.39→53.24），是最大收益来源。调度层面：依赖感知选择引入结构基率 $D$ 与错误集中度 $F$ 之差 $[F-D]_+$ 量化隐性瓶颈，用 max 而非 sum 聚合跨能力压力 $I_t(c_p\to c)$，显式避免度中心性偏差——即多个能力共享同一瓶颈时会高估其紧迫性；再用 $1+n_t(c)$ 折扣实现预算的自然分散。诊断层面：历史引导案例选择提出'回归见证'概念——历史上表现好、现在失败的案例与当前失败的对比能精确定位最近修改的副作用，同时用案例选择频次 $m_t(i)$ 和次能力组合频次 $m_t(\sigma(x_i))$ 双重折扣减少冗余优化。整合层面：配对差异案例策略利用所有保留程序在同一任务集上的评估结果，把谱系间的行为差异转成可执行的合并计划，整合失败时执行结果随实现一起反馈重试。效率层面：五组件接口使组件级差异比较成为可能，从而实现 revision-aware 执行复用，这是整体式方法做不到的。
实验结果
论文用四个问题组织实验。Q1 主结果：Qwen3.8-27B 下，PRISMEM 在 BEAM-1M 总分 63.39±1.02，比最强自进化基线 M⋆ 的 52.85±2.49 高 10.54 pp；LongMemEval-M 总分 75.50±1.80，比 EvolveMem 的 67.67±1.53 高 7.83 pp；比最强静态基线高 8.17–11.53 pp。分能力几乎全面领先：BEAM-1M 上事实检索 74.17、时间追踪 57.26、偏好提取 75.58、多会话合成 54.12、对抗 64.32；而整体式进化提升有限——M⋆ 仅比最强静态基线高 0.99 pp。短上下文进化、百万 token 测试仍保持优势，换 GPT-5.5 后在 BEAM-1M 领先基线 6.17–20.41 pp。Q2 成本：进化 token BEAM 上 73.7±6.4M（M⋆ 76.5±7.1M）、LongMemEval 上 143.3±9.6M（M⋆ 202.3±10.3M），比 M⋆ 省 4%–30%；EvolveMem 最省（69.2M/102.7M）但只调配置、性能垫底。Q3 消融：去掉能力进化 −10.15 pp（降至 53.24）、去掉整合 −3.16、轮询选能力 −2.55、随机选案例 −5.26，证明能力驱动进化是主要收益来源。Q4 轨迹分析：各能力分数在阶段 II 间歇性提升，最终整合程序的能力分接近历史单能力峰值，说明整合基本无损地吸收了探索成果。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| BEAM-1M（百万 token 长历史记忆问答，总分） | LLM judge 总分 (%)，3次运行 mean±std | 63.39±1.02 | M⋆ 52.85±2.49（最强自进化）；HippoRAG2 51.86±0.87（最强静态） | 比最强自进化 +10.54 pp，比最强静态 +11.53 pp |
| LongMemEval-M（百万 token 长历史记忆问答，总分） | LLM judge 总分 (%)，3次运行 mean±std | 75.50±1.80 | EvolveMem 67.67±1.53（最强自进化）；A-MEM 67.33±0.76（最强静态） | 比最强自进化 +7.83 pp，比最强静态 +8.17 pp |
| BEAM-1M 分能力：事实检索 F | LLM judge 分数 (%) | 74.17±4.87 | HippoRAG2 65.24±1.26 | +8.93 pp |
| BEAM-1M 分能力：对抗性 A | LLM judge 分数 (%) | 64.32±6.51 | Mem0 49.11±1.24（次优 M⋆ 46.02±7.52） | +15.21 pp |
| BEAM-1M（GPT-5.5 后端，附录 C.1） | LLM judge 总分 (%) | 全面领先所有基线 | 最强基线 | +6.17 至 +20.41 pp |
| 进化成本（20 轮，LongMemEval-S） | 进化消耗 token（百万，越低越好） | 143.3±9.6 | M⋆ 202.3±10.3；EvolveMem 102.7±8.4 | 比 M⋆ 省 29%（两个基准合计省 4%–30%） |
局限与改进
作者承认的局限：能力标注依赖 LLM 离线完成，虽不影响与基线的公平比较，但进化质量受标注质量与题型到能力的映射（表 5）约束；能力集只在 F/T/P/M/A 五个能力上实例化，向其他能力的泛化未验证；进化成本虽低于 M⋆，仍显著高于只调配置的 EvolveMem（BEAM 上 73.7M vs 69.2M token）。我自己的观察：第一，评估完全依赖基准自带的 LLM judge，裁判与任务模型同为 Qwen3.8-27B，裁判偏差影响方向未知，程序甚至可能学会迎合裁判；第二，依赖感知选择隐含'若非瓶颈则错误按基率分布'的独立性假设，能力高度相关时 $[F-D]_+$ 可能误判瓶颈；第三，超参数较多（$T_1=5$、$K=5$、$\delta=0.8$、$T_3=3$、$\theta$），论文未报告敏感性分析；第四，整合阶段要求所有保留程序在同一训练集上评估并保存执行结果，种群与任务数增大时存储开销可观；第五，只在两个对话式长历史基准上验证，未涉及工具调用等智能体记忆形态。
独立分析的弱点
第一，对 LLM 能力标注的单点依赖：若标注器把'用户改了航班时间'错标为偏好而非时间追踪，依赖感知调度会系统性选错目标，改进方向是软标注或多标注器投票，用失败聚类反馈修正标注。第二，评估信号完全来自 LLM judge，存在奖励黑客风险——程序可能演化出迎合裁判文风的策略而非真正提升记忆质量，建议引入基于参考证据 $E$ 的可验证指标或人工抽检护栏。第三，能力专家的全量评估成本：每个保留程序都要在全部训练任务上执行以支持专家追踪与配对对比，20 轮 × 全任务集在工业级历史库上不现实，可改为按能力分层抽样或增量验证。第四，五组件接口仍是人工划分：Planning 的缺陷可能同时表现为其他四类组件的症状，接口错位会让执行复用复用错误中间结果，可学习组件边界或加一致性校验。第五，三阶段流水线无回溯机制：若冷启动把搜索带入坏盆地，后续细化只能局部修补，可在细化期检测全局停滞并重启冷启动。
未来方向
作者在结论中希望能力驱动进化思想能推广到更强的智能体记忆构建。基于其成果可以延伸的方向：一是自动能力发现，让能力集合从失败案例聚类中动态涌现，而非固定 F/T/P/M/A 五类，使框架适配新任务域；二是在线持续进化，把目前的离线进化（训练集 20 轮后冻结部署）扩展为部署后随新交互不断精化的终身学习版本，其中回归见证机制天然适配检测线上回退；三是跨模型与跨域迁移的深入刻画——附录 C.2 初步验证了可迁移性，但何时迁移失败、如何选择源域尚无理论指导；四是把依赖感知调度推广到多智能体系统，让能力错误压力在多个记忆系统间传播与调度；五是与 RAG 基础设施结合，把五组件接口映射到向量库/图库的具体算子，让执行复用在分布式工程上落地；六是理论层面分析 max 聚合与 $1/(1+n_t)$ 折扣调度在多臂老虎机框架下的探索-利用性质；七是把配对差异案例的思想迁移到更一般的 LLM 程序进化任务（如提示词进化、Agent 工作流进化）。
复现评估
复现要素交代得比较充分：基准为公开的 BEAM 与 LongMemEval，协议明确——在 BEAM-100K/LongMemEval-S 上进化 20 轮、在 BEAM-1M/LongMemEval-M 上测试；模型栈具体（Qwen3.8-27B 兼任任务、反思、编码、裁判模型，Qwen3-Embedding-8B 做嵌入，vLLM 0.20.0，Python 3.12，A100 GPU）；每个实验跑三次并报告 mean±std；附录提供算法伪代码、数据集细节与迁移实验。困难在于：论文未明确承诺开源代码，PRISMEM 完整实现需从零搭建，包括五组件记忆接口、三阶段调度器、诊断上下文压缩与执行复用等大量工程细节；算力开销不小，单次完整进化约消耗 73.7M（BEAM）至 143.3M（LongMemEval）token，跑齐主实验、7 个基线和 4 个消融的三次重复成本很高；BEAM-1M 单问题平均任务 token 达 100.59K，长历史执行本身也耗时。总体评估：复现难度中等偏上，有 A100 集群和较强工程能力的团队可以复现核心结果。
论文图表
动机图，四个子图：(a) 隐藏的能力收益——每次修改的总分变化与最大单能力分数变化的散点，80.5% 的总分无增益修改（左上区域）仍至少提升一个能力；(b) 不均匀的能力变化——在某能力提升的修改中，另一能力分数下降的百分比矩阵，说明能力间此消彼长很普遍；(c) 整体式进化的示意——探索被限制在能力空间的有限区域；(d) 能力驱动进化的示意——通过显式能力方向实现更广的探索边界。
这是全文动机的实证基础：它用真实进化轨迹的数据证明了整体式进化的两大缺陷（方向模糊、收益被掩盖），Fig. 1(a) 中 80.5% 这一数字直接支撑了能力级评估保留中间版本的设计决策。