LatentMem：为多智能体系统定制潜在记忆 LatentMem: Customizing Latent Memory for Multi-Agent Systems

LatentMem的方法包含四个关键步骤。步骤一，经验库构建与检索：使用MiniLM模型将查询和轨迹映射到嵌入空间，通过余弦相似度检索top-$K$最相关的轨迹$T_q = \text{top-}K_{\tau_i \in B}(\text{sim}(v(q), v(\tau_i)))$，本文设置$K=1$。步骤二，潜在记忆合成：记忆合成器$\sigma_\phi$（基于Transformer+LoRA）接收检索到的轨迹$T_q$和当前智能体的角色画像$\gamma_{\alpha_j}$，输出固定长度的潜在记忆矩阵$m_j = \sigma_\phi(\gamma_{\alpha_j}, T_q) \in \mathbb{R}^{L' \times D}$，其中$L'=8$，$D$为骨干模型的隐藏维度。步骤三，记忆注入：将潜在记忆$m_j$与智能体的输入嵌入$h_j$拼接，形成扩展输入$\mathbb{R}^{(L+L') \times D}$，得到记忆增强策略$\tilde{\pi}_{\theta_{\alpha_j}}(p_j, m_j) = \pi_{\theta_{\alpha_j}}(\text{concat}(h_j, m_j))$，这一过程对智能体层透明，无需修改系统架构。步骤四，LMPO训练：从查询分布采样$G$条轨迹，计算组内相对优势$\hat{A}_i$，使用token级代理目标优化记忆合成器参数$\phi$，同时冻结所有智能体骨干参数$\{\theta_k\}$。

LatentMem的技术新颖性体现在多个维度。第一，潜在记忆接口设计：通过将记忆表示为可微分的潜在向量，建立了一条从任务级奖励到记忆合成器参数$\phi$的梯度传播路径。具体而言，轨迹生成概率$\mathbb{P}(\tau|q, T_q; \phi, \{\theta_k\})$可以通过链式法则分解，其中潜在记忆$m_j = \sigma_\phi(T_q, \gamma_{\alpha_j})$作为可微分接口，使$\phi$能够影响自回归生成的输出$o_j$。第二，LMPO算法设计：不同于标准RL使用轨迹级目标（导致长序列中token贡献不均），LMPO采用token级代理目标，避免长MAS交互中token梯度贡献不成比例的问题。第三，角色感知的记忆定制：这是首个在MAS记忆中引入角色条件化的潜在表示学习的工作，通过在记忆合成器中注入角色画像，实现了对异质智能体的记忆定制化。第四，无需修改底层框架：潜在记忆通过拼接注入，对MAS架构完全透明，可直接集成到AutoGen、MacNet、CAMEL、DyLAN等主流框架。

LatentMem存在几个值得关注的弱点。第一，记忆注入机制过于简单：当前仅通过拼接（concat）将潜在记忆注入到输入嵌入中，这种方式可能无法让模型充分利用记忆信息。改进方向包括使用交叉注意力机制让智能体主动查询记忆，或设计门控机制动态调整记忆的影响程度。第二，检索策略单薄：仅使用$K=1$的单轨迹检索，在需要综合多条经验的复杂协作场景中可能信息不足。可考虑设计分层检索机制，先检索相关轨迹再按任务阶段筛选关键步骤。第三，记忆长度固定为$L'=8$：不同任务和角色可能需要不同长度的记忆表示，固定长度可能在简单任务上浪费容量、在复杂任务上表示不足。改进方向是设计自适应长度的记忆生成机制。第四，缺乏记忆生命周期管理：经验库仅做增量追加，未考虑记忆的衰减、更新或遗忘机制，长期运行可能导致经验库膨胀和检索效率下降。

基于LatentMem的成果，未来研究可沿多个方向延伸。作者提出的方向包括：探索更强的MAS框架集成（如动态拓扑调整的MAS），以及更大规模模型上的效果验证。基于本文成果可延伸的方向包括：（1）将潜在记忆机制扩展到多轮对话和长期任务规划场景，探索记忆的时序组织和层次化结构；（2）研究潜在记忆的可解释性，通过解码器将潜在token映射回可理解的文本形式，增强系统的透明度；（3）将LatentMem与MAS的动态架构搜索结合，让记忆机制与协作拓扑联合优化；（4）研究记忆的安全性问题，防止恶意轨迹通过经验库影响后续任务的推理过程；（5）探索跨MAS框架的记忆迁移，即在一个框架上训练的记忆合成器能否直接应用于新框架。

复现评估方面，LatentMem的复现条件相对友好。代码和模型已在GitHub和HuggingFace开源。训练数据使用公开数据集（TriviaQA、KodCode、StrategyQA、PopQA），无需私有数据。训练配置方面，记忆合成器基于骨干LLM初始化并使用LoRA训练，相比全参数微调大幅降低算力需求。但完整复现仍需注意：（1）需要准备四个MAS框架（AutoGen、MacNet、CAMEL、DyLAN）的运行环境；（2）经验库的初始化需要生成覆盖多领域和多框架的轨迹数据；（3）LMPO训练需要多条轨迹采样和奖励计算，单次训练的计算开销取决于采样数量$G$和轨迹长度。总体而言，中等算力条件下的研究团队可以复现核心结果。