EEVEE：面向现实世界中自改进智能体的测试时提示学习 EEVEE: Towards Test-time Prompt Learning in the Real World for Self-Improving Agents

方法分为三个阶段：1) 初始化：在混合训练集上运行提示学习，保留Pareto前沿池，通过贪心覆盖规则选择$P_0$中的提示，为初始路由器提供可区分的专业化行为。2) 探索：从$(R_0, P_0)$开始，在轻量级预算下交替路由器和提示进化。路由进化固定提示集，搜索更好的路由器；提示进化固定此路由器，更新每个槽位提示。通过退火机制将路由候选评分权重从一致性/平衡转向下游准确率。3) 收敛：一旦退火和交替更新识别出稳定的路由器，固定$R^\star$，重新路由$D_{tr}$和$D_{val}$，在每个槽内花费更大的提示学习预算。

技术新颖性体现在三个方面：1) 首个多数据集测试时提示学习框架，使用路由器减少跨数据集干扰；2) 引入路由器-提示协同进化，通过三阶段训练设计共同改进路由提示和模型提示；3) 设计了路由候选评分函数$S_R(R) = \lambda_{acc}A(R) + \lambda_{con}C(R) + \lambda_{bal}B(R)$，结合下游准确率$A(R)$、一致性$C(R)$和平衡性$B(R)$，并通过退火从一致性/平衡转向准确率。

独立分析的弱点及改进方向：1) 知识密集型任务表现弱：在GPQA Diamond上，学习到的提示强化了通用推理和答案比较行为，而非添加特定的缺失知识，甚至可能引入错误的先验（如将相同组成视为恒定密度）。改进方向：结合检索增强生成（RAG）或将领域知识注入到提示学习中。2) 初始化依赖：路由器进化需要一个能够揭示路由决策是否有用的提示集，否则准确率反映的是提示弱点而非路由器质量。改进方向：探索自适应初始化策略，或使用更强的离线提示作为起点。3) 计算开销：三阶段训练和协同进化需要更多计算资源。改进方向：优化候选采样策略，使用早停机制或更高效的后备模型。4) 跨任务泛化下降：在MMLU-Pro上，EEVEE从70.74降至68.92。改进方向：引入任务无关的通用提示槽，或设计更好的跨任务知识迁移机制。

作者提出的未来方向：进一步研究在线设置下的提示学习，减少对预准备适应集的依赖；探索更高效的搜索策略以降低计算开销；研究如何将提示学习与知识检索结合，改善知识密集型任务的表现。基于本文成果可延伸的方向：1) 将路由器扩展到更复杂的层次结构，支持多级任务分区；2) 探索动态路由器数量，根据任务复杂度自适应调整槽位数量；3) 研究提示共享机制，在保持专业化的同时减少参数开销；4) 将协同进化框架扩展到其他自适应组件，如系统提示、工具选择策略等；5) 在更广泛的任务类型上评估，包括多轮对话、交互式任务等。

论文提供了Website和Code链接，但未明确说明是否开源模型权重、训练脚本或完整实验代码。实验设置在四个基准测试上评估，包括GPQA Diamond（闭本知识QA）、Formula和TheoremQA（数学和符号推理）、HumanEval（代码生成）。实验使用Qwen3-4B-Instruct和DeepSeek-V3.2作为目标模型，多次运行随机设置并报告平均分数以减少随机性。复现难度中等：需要获取四个基准数据集、设置目标模型API、实现三阶段训练和协同进化逻辑。主要挑战在于路由器-提示协同进化的实现细节、Pareto前沿池管理、退火机制调优等。如果提供了代码和详细超参数，复现可行性较高；否则需要根据论文描述重新实现，可能存在细节差异。