EvoArena：在动态环境中追踪内存演化以构建鲁棒的LLM智能体 EvoArena: Tracking Memory Evolution for Robust LLM Agents in Dynamic Environments
提出动态环境基准测试EvoArena和补丁式内存方法EvoMem，提升智能体适应性
前置知识
LLM智能体
大语言模型智能体是指结合推理、工具使用和内存的AI系统，能够在多步骤任务中执行操作、作用于环境状态，并在任务情节内调整行为。现代智能体系统在网页导航、软件工程、工具使用和通用智能体推理等基准测试中取得了强大性能。智能体通常包含内存模块来存储和检索先验知识，工具调用能力来与外部系统交互，以及规划能力来协调多步骤任务执行。
本文研究对象，需要理解智能体如何在静态环境中工作，才能理解它们在动态环境中的局限性
环境演化
环境演化指的是同一基础目标或设置保持不变，但界面、规则、工作流、代码状态或用户偏好随时间变化的过程。现实世界中的环境演化具有持久性特点，即相同设置在不同版本间持续变化，要求智能体既要知道什么变化了、什么仍然有效，还要知道如何在当前版本下采取行动。与静态环境不同，演化环境中的知识往往是版本依赖的，针对新工作流版本更新的规则可能会覆盖对旧版本仍然有效的早期规则。
本文核心问题，现有智能体评估大多假设静态环境，而实际部署环境是持续演化的，这是智能体可靠性的关键挑战
补丁式内存
补丁式内存是一种受git版本控制启发的内存范式，它将内存更新视为有意义的非加性记忆变化，通过只追加的补丁历史记录每次内存更改的内容、原因和触发证据。每个补丁存储更新前后的内存内容、更新理由和支持证据，使内存演化可追踪。与传统将内存合并为单一最新状态的方法不同，补丁式内存保持基础内存系统完整的同时，使内存更新可检查并可重用于下游推理。
本文提出的方法EvoMem的核心机制，理解补丁式内存的工作原理对于掌握论文贡献至关重要
链级准确率
链级准确率是评估智能体在演化环境中持续可靠性的关键指标，要求智能体完成整个演化链而不出现任何错误。对于Terminal-Bench-Evo，链正确意味着来自同一初始任务的所有版本都被解决；对于SWE-Chain-Evo，链准确率衡量从演化链开始连续解决的里程碑数量除以总里程碑数；对于PersonaMem-Evo，链正确意味着同一偏好演化链中的所有问题都被正确回答。与步级准确率衡量单个任务性能不同，链级准确率测试智能体在相关环境状态序列间保持和重用演化感知知识的能力。
本文提出的核心评估指标之一，体现了现实世界部署中对智能体持续可靠性的要求
研究动机
现有LLM智能体评估主要基于静态环境快照，大多数基准测试中的界面、规则、任务分布和成功标准在基准构建后即固定。虽然最近的动态评估通过刷新任务、异步事件或自演化实例改进了新鲜度或交互真实性，但它们很少测试持久的环境演化，即相同设置在不同版本间的变化。在现实部署中，API、工作流、代码库和用户偏好不断演化，而现有基于内存的智能体通常维护单一最新内存状态，这种设计在新信息安全取代旧信息时有效，但在不同环境版本需要不同行为时变得脆弱。一个典型的失败模式是状态崩溃：工作流权限更新可能会覆盖对旧版本仍然有效的早期规则，智能体随后既失去了之前的行为，也失去了解释该行为何时有效的上下文。
本文的目标是本文的具体目标是构建一个评估智能体在持久环境演化下能力的基准测试套件，并提出一种内存机制来解决状态崩溃问题。EvoArena将每个环境组织成渐进演化的发布链，保持相同的底层目标或设置，同时界面、规则、工作流、代码状态或用户偏好随时间变化。EvoMem则通过只追加的补丁历史记录有意义的内存变化，使智能体能够通过内存变化推理环境演化，既保留最新内存，又能在查询依赖被覆盖状态、冲突证据或早期环境版本时选择性地检索相关补丁。
与已有工作不同的是，本文的独特切入角度是将环境演化建模为可测量能力，并从内存架构层面解决版本感知状态跟踪问题。与现有研究关注智能体侧自我改进或仅引入单一偏好更新不同，本文研究外部环境的变化，并提出将内存更新视为证据的内存范式，保留变化了什么、为什么变化以及哪些上下文支持每个版本依赖行为。这种分离将内存从单一可变存储转变为版本化的演化追踪，使智能体能够在从最新内存行动的同时保留访问先前状态、理由和产生这些状态证据的能力。
核心方法
EvoArena和EvoMem的方法思路是分别从评估和内存两个角度解决动态环境中的智能体鲁棒性问题。EvoArena通过将现有静态基准转化为版本化演化链来评估智能体适应能力，包含三个子集：可执行工作流演化的Terminal-Bench-Evo、软件演化的SWE-Chain-Evo和偏好演化的PersonaMem-Evo。EvoMem则在智能体现有内存系统上叠加一个轻量级的补丁记录和检索机制，它不替换基础内存更新器，而是监控从M_{t-1}到M_t的转换并捕获否则会被丢弃的内存变化。EvoMem计算Delta_t来总结受影响的内存条目和更改的字段，仅为非加性更新创建补丁，即那些修订、覆盖或重新解释现有内存的更新。
核心创新点是将内存更新视为可追溯的证据而非简单的状态替换。传统内存系统将内存合并为单一最新状态M_T，这会掩盖被覆盖的状态和更新背后的原因。EvoMem通过补丁历史保留中间转换，解释内存如何达到当前状态。每个补丁包含时间元数据、更新前后内容、更新理由、变化摘要和支持证据。在推理时，EvoMem首先从最新内存检索上下文，然后从补丁历史检索相关补丁，最终上下文为最新内存和相关补丁的拼接，使智能体能够基于当前内存和其演化轨迹做决策。
方法步骤详情
EvoArena的构建方法针对不同领域有具体步骤。对于Terminal-Bench-Evo，首先进行工作流状态分析，将原始Terminal-Bench实例转换为包含目标、环境、文件、依赖、接口和验证规则的结构化工作流状态；然后设计演化计划，指定在保持目标的同时更改操作程序的更新序列；接着通过继承版本实现，按时间顺序实例化演化计划，后续版本继承早期版本的环境；之后进行质量控制和预言机验证，确保每个版本可执行、内部一致且可解；最后组装基准并记录元数据和评估单位。对于SWE-Chain-Evo，选择活跃、多样且可测试的仓库，提取连续提交范围作为更新窗口，将相关提交分组为里程碑，将每个里程碑转换为SWE-bench风格的任务描述，构建Docker评估环境，最后按原始时间顺序组装验证后的里程碑为演化链。对于PersonaMem-Evo，从种子人设扩展和偏好清理开始，构建结构化档案和清理的偏好清单，然后构建隐式交互历史表达偏好，引入有序偏好轨迹，生成需要将观察到的行为模式推广到新设置的偏好推断问题，应用双盲过滤和答案选项构建去除捷径，最后组装基准并评估。
技术新颖性
技术新颖性体现在三个方面：首先，EvoArena是首个系统评估智能体在持久环境演化下能力的基准套件，通过渐进演化链而非独立变体或单次更新来测试智能体；其次，EvoMem提出了将内存更新作为可检索证据的内存范式，这与传统将内存合并为最新状态的方法有本质区别；最后，方法在多个智能体框架上实现了通用抽象，包括Terminus2的终端原生内存、OpenHands的软件工程上下文、A-Mem的语义组织笔记和Memento-Skill的可重用技能内存，表明EvoMem不需要单一内存格式，而是提供了一个轻量级接口来将内存更新转换为跨不同智能体的可重用版本化证据。
实验结果
实验结果显示当前智能体在持久环境演化下表现挣扎，尤其是在链级评估上。在EvoArena上，基础智能体平均步级准确率仅为：Terminal-Bench-Evo 43.6%、SWE-Chain-Evo 29.2%、PersonaMem-Evo 46.5%。性能在对应的链级指标上进一步下降：Terminal-Bench-Evo 21.5%、SWE-Chain-Evo 10.6%、PersonaMem-Evo 39.1%。这些结果表明即使强大的智能体系统也难以跟踪演化执行条件、累积代码库状态和变化的用户偏好。更重要的是，显著更低的链级性能表明解决孤立步骤并不一定转化为在持久环境演化中的可靠性。添加EvoMem后，在所有EvoArena子集上持续改进性能：Terminal-Bench-Evo平均提升2.4%、SWE-Chain-Evo 0.5%、PersonaMem-Evo 1.8%。EvoMem还改进了标准智能体基准，GAIA平均提升6.1%，LOCOMO 4.8%。在所有评估设置中，EvoMem平均步级提升2.6%，链级提升3.7%。机制分析显示EvoMem在需要时间或分散证据时帮助最大：在PersonaMem-Evo上，时间轨迹和多模式综合问题均提升5.2%，冲突解决和单模式转移略有下降。补丁历史改进了完整证据保留：从子句级捕获89.4%到90.3%，行级捕获从72.5%到74.9%。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| Terminal-Bench-Evo步级准确率 | 步级准确率 | 46.0% | 43.6% | +2.4% |
| Terminal-Bench-Evo链级准确率 | 链级准确率 | 27.6% | 21.5% | +6.1% |
| SWE-Chain-Evo步级准确率 | 步级准确率 | 28.3% | 27.9% | +0.4% |
| SWE-Chain-Evo链级准确率 | 链级准确率 | 12.1% | 10.0% | +2.1% |
| PersonaMem-Evo步级准确率 | 步级准确率 | 49.0% | 47.3% | +1.7% |
| PersonaMem-Evo链级准确率 | 链级准确率 | 43.2% | 40.0% | +3.2% |
| GAIA | LLM-judge准确率 | 72.3% | 65.8% | +6.5% |
| LOCOMO | 精确匹配 | 43.0% | 39.7% | +3.3% |
局限与改进
局限性分析包括作者承认的和观察到的多个方面。首先，EvoMem虽然整体提升性能，但在某些情况下会略微下降，如SWE-Chain-Evo上Gemini-3.1-Pro步级准确率下降2.4%，PersonaMem-Evo上GLM-5.1步级和链级分别下降2.9%和3.7%。其次，EvoMem的效果依赖于智能体能否将检索到的转换信息操作化，即在Terminal-Bench-Evo上只有当智能体注意到从前变体的变化、保留旧程序的有用部分并修改不再有效的部分时，补丁内存才真正有帮助。第三，EvoMem需要额外的存储和计算开销来维护补丁历史，虽然论文声称是轻量级接口，但在大规模部署时可能需要优化。第四，EvoArena覆盖的领域虽然多样（终端工作流、软件工程、社交智能），但仍有限，未涵盖如网页导航、设备控制等演化场景。最后，EvoMem的补丁触发策略基于非加性更新检测，但在复杂环境中可能需要更细粒度的更新分类和检索机制。
独立分析的弱点
独立分析的弱点包括：首先是补丁检索的精确性问题，当前方法使用语义相似度检索相关补丁，但在复杂演化场景中可能需要更精确的版本匹配或条件触发机制；其次是补丁累积的管理问题，随着时间推移补丁历史可能变得庞大，需要更智能的压缩或归档策略；第三是跨链知识迁移能力有限，EvoMem主要处理同一环境内的演化，对于跨不同环境或任务的迁移学习支持不足；第四是更新理由的自动生成质量问题，当前方法依赖智能体生成更新理由，但可能在复杂场景下产生不准确或不完整的解释；第五是评估基准的有限性，EvoArena虽然覆盖三个领域，但演化模式的多样性仍有限，未来需要扩展更多演化类型如界面重构、API废弃、数据模式变化等。改进方向包括引入更精确的补丁检索机制如条件触发或版本感知检索，实现补丁历史的智能压缩和优先级管理，探索跨链知识共享和迁移机制，改进更新理由的自动生成和验证方法，扩展EvoArena覆盖更多演化模式。
未来方向
未来研究方向包括作者提出的和基于成果可延伸的多个方向。作者希望这项工作能够支持未来关于能够跟踪变化、恢复历史上下文并在现实演化设置中可靠适应的智能体研究。具体可延伸方向包括：扩展EvoArena到更多演化环境如网页导航演化、设备控制配置演化、数据管道演化等；探索更复杂的补丁检索和推理机制，如版本依赖图、条件触发检索、多跳补丁链推理等；研究EvoMem在其他智能体框架和应用场景中的应用，如多智能体协作、长期任务规划、在线学习等；开发更自动化的补丁生成和验证方法，减少对人工规则的依赖；探索补丁历史的可解释性和可视化，帮助理解智能体的适应过程；研究EvoMem与其他内存增强方法如分层内存、技能库、反思机制的组合使用；在实际部署环境中评估EvoMem的长期效果和鲁棒性，如生产系统的持续监控和更新。
复现评估
复现评估方面，论文提供了代码、数据集和项目页面：代码在https://github.com/Aiden0526/EvoArena，数据集在https://huggingface.co/collections/Aiden0526/evoarena，项目页面在https://aiden0526.github.io/EvoArena/。EvoArena包含三个子集：Terminal-Bench-Evo有89个初始任务，构建356个演化版本为5版本工作流链，去除4个无效版本后得到352个演化版本任务和441个总任务实例；SWE-Chain-Evo包含50个演化链来自12个仓库，有493个链步实例和145个唯一仓库里程碑；PersonaMem-Evo包含10个人设级别对话和505个偏好推断问题，平均每人设50.5个问题。论文评估了多个智能体：Terminus2、OpenHands、A-Mem、Memento-Skill，配合多个骨干模型：GPT-5.4-MINI、GPT-5.5、Gemini-3.1-Pro、Qwen-3.6-27B、Kimi-K2.6、DeepSeek-V4-Pro、GLM-5.1、MiniMax-M2.7、Gemma-4-31B。复现难度中等，需要设置Docker环境（SWE-Chain-Evo）、终端容器（Terminal-Bench-Evo）和长上下文对话处理（PersonaMem-Evo），但论文提供了详细的实现细节和评估协议，基准是开源的，便于研究社区复现和扩展。
论文图表
