反思、修订与复用：面向 GUI 智能体的免训练技能自演化框架 Reflect, Revise, Reuse: Training-Free Skill Evolution for GUI Agents

完整流程按 Algorithm 1 展开。第一步检索/初始化：对新指令 $q$ 计算库中每个技能的得分 $\text{score}(q,S)=\text{clip}(\text{base}+b_{app}+b_{kw}-p_{div},0,1)$，其中基础分为 $\text{base}(q,S)=0.6\frac{|O|}{|Q|}+0.4\frac{|O|}{|Q\cup T_S|}$（$O=Q\cap T_S$ 为查询与技能词元的交集），附加 app 域与关键词匹配奖励、减去查询特有概念缺失的发散惩罚；若最高分超过阈值 $θ_r=0.6$ 则复用该技能包，否则由模型从零生成新包。第二步 rollout 与即时修订：执行器每步观察截图 $φ_t$ 与无障碍树 $ζ_t$，按计划执行动作；期间可调用受限工具集 $\mathcal{T}=\{\text{read},\text{write},\text{append},\text{list},\text{search},\text{create\_failure}\}$ 就地修订技能文件（如控件移位后更新 backup.md），另有只读无障碍工具 $ψ$ 返回当前窗口树——$ψ$ 只增广观察不改技能，实现界面理解与技能修订的工具级分离。第三步反思：若失败，批评者在独立会话中仅依据指令与完整轨迹输出结构化诊断——失败步骤定位、直接原因分析、可操作的修订建议。第四步修订：执行器依据诊断与技能快照修订文件，顺序为 $P\to B\to C$；失败时通过 create_failure 把 $(I,c^{(i)},τ^{(i)})$ 追加进 $F$（最多存 3 条失败案例）。第五步注册复用：成功执行或修订完成的包经注册进入技能库；库随任务流增长，后续相关任务从已验证的程序性知识起步。全局约束：每任务最多 50 交互步、每步最多 4 次技能工具调用、自演化最多 $N=3$ 次执行迭代、失败后至多两轮修订。

技术新颖性可从四个维度评估。表示层面：把 Anthropic 式 agent skill 具体化为面向 GUI 失败模式的六元组分解是新的——MMSkills 用单文件多模态技能，CUA-Skill 的桌面技能库不做部署时修订；本分解使修订粒度与失败粒度对齐（Table 9 显示 plan 级错误 69.6% 可通过改 plan.md 修复、grounding 错误 50% 可通过 backup.md 修复），结构化包比单文件高 2.85 个点。机制层面：训练无关的推理时技能级自演化是领域空白——既有工作要么离线构建技能、要么在训练中演化权重、要么更新检索式记忆；本文证明仅靠'同骨干 + 信息隔离 + 受限工具'三件套即可在部署时完成闭环。协议层面：式 (8) 的信息隔离形式化（批评者信息集是轨迹子集且与技能/思维链/真值不相交）为'自演化 vs 外部监督'提供了可检验的实验设计，人工审计显示该设置下批评者诊断准确率 80.4%（115/143），证明同骨干诊断可行但不完美。效率层面：与 pass@3 重复采样对照（62.8%、103.00M tokens），三轮演化以更少 token（94.75M）取得更高成功率（69.5%），说明收益来自反思驱动的知识积累而非采样次数；元数据检索（平均分 0.8753、12/12 命中）显著优于全文检索（0.4050、1/12 命中），解决了长文本技能表面词元跨任务重叠导致的检索不可靠问题。

弱点一：批评者过度乐观。80.4% 诊断准确率中最危险的是把失败判成成功，从而提前终止演化并把'伪验证'技能注册入库——在自演化闭环中这类错误会被复用放大。改进方向：引入廉价的独立验证器（对最终状态做断言式检查）、双批评者交叉验证、或要求批评者输出证据链并自动核对关键中间状态。弱点二：无版本管理与回归防护。修订直接覆盖技能文件，坏编辑无法回滚，也没有'修订前后回归测试'机制。改进方向：技能包 Git 式版本化、修订后在新任务上做影子评估、利用 meta 中的 status 字段做灰度上线。弱点三：启发式检索的脆弱性。线性加权评分对权重与阈值高度敏感——θ_r 从 0.6 降到 0.4 成功率暴跌 14.3 个点，升到 0.8 也掉 2.8 个点——且以词法重叠为主导，面对改写指令或跨语言查询可能失效。改进方向：引入轻量嵌入检索与元数据检索的混合排序，用历史命中/错配数据在线校准阈值。弱点四：复用收益依赖任务相似性。当前证据几乎全部来自同任务族参数化变体（AndroidWorld seed 30→42），真正跨应用、跨平台的技能泛化尚未证明，held-out 实验也局限在 MobileWorld 内部。改进方向：在技能包中加入平台无关的抽象层（用目标谓词而非具体控件描述表达步骤），系统评估跨应用迁移矩阵。弱点五：简单任务的负迁移。OS 域与 Thunderbird 的负域项以及对短平快任务的过度复杂化表明技能并非普适增益。改进方向：增加'技能适用性预判'——检索得分低时直接走无技能路径，或在 plan 中显式声明适用条件与禁用条件。

作者提出的方向：为技能修订配备形式化验证器以否决有害编辑；技能级版本管理、部署时人在环验证与显式失败安全规则；把框架推广到界面更新频繁、含个性化配置与隐私敏感状态的真实部署环境。基于本文成果可自然延伸的方向：其一，把修订循环与轻量在线学习结合——用验证过的技能修订作为偏好数据反哺小型 GUI 模型，打通推理时演化与训练时演化的通路；其二，技能组合与分层复用——当前技能平铺存储，长工作流可由子技能组合，元数据可扩展组合接口与依赖声明；其三，批评者能力提升——把诊断准确率作为显式优化目标（诊断自一致性、多批评者投票、证据定位校验），缓解 19.6% 的误诊尤其是过度乐观；其四，检索机制升级——从启发式线性评分走向可学习的双塔检索，并研究技能库规模扩大后的索引、去重与冲突消解；其五，跨平台技能迁移——backup.md 的'多指示器'思想可抽象为平台无关的界面不变量，使同一技能适配 Android/桌面/Web；其六，失败案例的多模态化——借鉴 MMSkills，把视觉证据（关键帧对比）存入 failure_examples 以增强后续检索与规避；其七，安全与审计——GUI 智能体操作真实账户与文件，技能演化引入的静默行为漂移需要审计日志、敏感操作确认与演化轨迹的可解释回放。

复现条件较好。代码已开源；三个基准全部公开且提供标准评测协议；附录 A.8 给出全部 prompt 模板，Table 12 列出完整超参（执行温度 0.0、批评者温度 0.0、技能生成温度 0.3、修订顺序 $P\to B\to C$、失败案例最多 3 条、BM25 $k_1=1.5$/$b=0.75$、检索阈值 0.6、每步最多 4 次技能工具调用等）。算力需求分化：闭源模型（Claude-Sonnet-4.6、Qwen3.6-Plus）走官方 API，主要是调用费用；8B 级开源模型（GUI-Owl-1.5-8B、MAI-UI-8B、Qwen3-VL-8B）单张 RTX PRO 6000 96GB 用 vLLM 即可服务（张量并行 4、bfloat16、65K 上下文、每 prompt 最多 5 张图）；35B 级模型需更多卡。环境方面 MobileWorld 需并行 20 个 Docker 容器（20 秒启动间隔）。成本量级：MobileWorld 全量三轮演化约 94.75M tokens；每任务最多 50 步、每步等待 3 秒。复现难度评估：中等。主要不确定性在于批评者诊断的会话随机性、小域指标对个别任务的敏感性（作者自己重跑 OS 域就出现与提交结果不同的数字）、以及若干对照基线（多为 2026 年 preprint）缺乏公开代码需要自行实现。若只在单一模型、单一基准上验证核心思想（结构化包 + 信息隔离反思 + 元数据检索），单卡 GPU 加一两个 API key 可在数天内完成最小复现。