基于跨框架适配的检索增强技能优化 Retrieval-Augmented Skill Optimization via Cross-Harness Adaptation

RASI 四步（无 rollout）：(1) 程序与查询生成——$A_{query\_init}$ 从任务描述 $T$ 和框架描述 $H$ 产出需求-查询对 $\{(c_i, q_i)\}_{i=1}^M$，$c_i$ 是具体任务流程或框架约束（如多轮预算管理），$q_i$ 是对应的检索查询；(2) 章节检索——技能文档按标题切分为语料 $\mathcal{C}$，BM25 为每个 $q_i$ 取 top-$K=5$ 章节 $S_{q_i}$；(3) 跨框架适配——每对生成教训 $\ell_i$ 组成 $L_{init}$；(4) 技能初始化——$s_0 = A_{skill\_init}(T, H, \{c_i\}, L_{init})$，把每条教训整合进 $c_i$ 对应的执行步骤。RASU 四步（带 rollout）：(1) 从 $D_{train}$ 采 40 任务 minibatch 用 $s_t$ 执行 rollout，轨迹按 8 个一组分块，$A_{query\_update}$ 为每个失败模式生成文本梯度 $\delta_i$ 和查询 $q_i$，再合并去重；(2)(3) 走同一条检索加适配流水线得 $L_{update}$；(4) 更新——$s_{t+1} = A_{skill\_update}(s_t, \{\delta_i\}, L_{update})$，仅当验证集上优于 $s_t$ 才接受。优化共跑 2 个 epoch。

技术新颖性体现在四个层面。其一，问题定义扩展：把初始技能构建纳入技能优化问题（此前工作假设初始技能外部给定），并证明零 rollout 初始化本身就有大幅收益——GPT-5.6-Luna 上 RASI 比 RFSI 在 OfficeQA 高 5.63 分。其二，检索粒度：section 级检索针对技能文档「整体目标各异但局部流程可迁移」的特点，比文档级检索信噪比更高。其三，适配作为一等公民：与 Agent KB 只在测试时逐实例适配、Anything2Skill 只在编译期一次性用外部知识不同，RASO 把「检索→适配→写入技能」做成 RASI 与 RASU 共享的原语；消融显示去掉适配后 RASI 在 SpreadsheetBench 从 49.17 跌到 41.43（-7.74），RASU 从 63.33 跌到 57.86（-5.47），证明收益主要来自适配而非检索本身。其四，失败驱动的定向检索：RASU 的查询由文本梯度引出，让检索服务于补足当前技能的具体缺陷。此外在效率上，RASO 的 rollout 数与 TextGrad/WikiSkill 完全相同（196/320/114/360），但 API 成本降低 42–75%，说明收益并非靠堆预算。

独立分析有六个弱点。其一，BM25 检索瓶颈：跨域检索是本文立身之本，但纯词法匹配对「同义不同词」的程序性知识很弱，Figure 3 中 $K=10$ 性能下降也暗示噪声问题。改进方向是混合检索（BM25+稠密向量）加 cross-encoder 重排。其二，检索与适配单向串联：适配只能改写检索到的内容，检索漏了就无法补救，可让适配产出的教训反查语料做二次检索形成闭环。其三，贪心验证集接受：单一候选接受/拒绝在噪声下不稳定，可引入 GEPA 式 Pareto 前沿保留多样性或做配对显著性检验。其四，单文档技能形态：所有知识压进一个 skill.md，技能变长后有上下文压力和条目冲突风险，可走向模块化技能库加依赖管理。其五，失败归因依赖 optimizer LLM：文本梯度 $\delta_i$ 的质量决定检索查询质量，归因错了检索就白做，可让环境原生信号（报错信息、评分细则）直接参与查询构造。其六，语料时效性：技能生态持续演化，BM25 索引需要增量更新与技能质量过滤机制，否则旧索引会逐渐偏离社区知识分布。

作者层面的延伸：Cross-Harness Adaptation 目前完全依赖 LLM 隐式对齐，可构建显式的 harness 本体或工具映射表来校验适配产物的正确性；把 RASO 推广到多智能体系统和多技能组合优化场景。基于成果可延伸的方向：（1）与强化学习结合——把适配后的教训当作策略先验，用 RL 在检索增强的技能空间内继续优化，检验文本先验与参数更新的互补性；（2）可迁移性预测器——学习一个打分器预测哪些技能章节对目标任务值得检索适配，替代纯相关性排序，直接优化「迁移价值」；（3）终身学习部署——技能随线上运行持续更新，研究外部语料知识与自身经验教训的置信度加权融合，避免外部过时知识污染；（4）跨模型与跨 harness 迁移的系统性研究——论文强调技能文本天然可移植，可量化 RASO 优化出的技能在不同目标模型、不同 harness 版本间的保持率；（5）理论刻画——何时检索增强的文本优化优于纯自举，可从探索覆盖面和知识先验偏差的角度建模。

复现难度中等偏低，总体友好。有利因素：（1）方法全部由 prompt 工程加 BM25 加现成 LLM 调用构成，无需任何训练，算力门槛极低——Qwen-3.5-9B 用 vLLM 在单张 RTX A6000 上即可服务，GPT-5.6-Luna 走 API 且整个优化流程成本仅 0.49–10.28 美元/基准；（2）实现细节披露非常充分：2 个 epoch、minibatch 40、轨迹分块 8、$K=5$、采样温度（rollout 0.0 / optimizer 0.7）、reasoning effort low、blocklist 的构造规则（关键词命中即排除整个仓库）、$T/H$ 由 codex 生成一次并冻结、RFSI 与 RASI 严格同 pipeline 只去掉检索，全在附录写明；（3）四个基准全部公开且 train/val/test 划分明确（Table 5），外部语料 GitSkills 公开可取。不利因素：（1）GPT-5.6-Luna 是闭源 API，结果受模型版本迭代影响；（2）GitSkills 是动态演化的 GitHub 语料，检索命中难以逐条复现；（3）流水线涉及查询生成、适配、初始化、更新多个 LLM 智能体，若 prompt 未完全开源会引入实现差异；（4）文中未明确承诺开源代码。综合判断：若代码与 prompt 公开，复现相对结论（各方法排序）较容易，逐数字复现受语料与 API 漂移影响有一定随机性。