ClawGUI：面向 GUI 智能体训练、评估与部署的统一开源框架 ClawGUI: A Unified Framework for Training, Evaluating, and Deploying GUI Agents

ClawGUI-RL 训练：(1) Environment Manager 并行启动 64 个 Docker 化 Android emulator，按 Reset→Evaluate→Spare→Teardown 四阶段管理；(2) Reward Manager 算 outcome reward，每步 Qwen3.5-72B PRM 打分叠加为 $R = R_{\text{outcome}} + R_{\text{step}}$；(3) GiGPO 在 step 级用 anchor-state 子组做折扣回报归一化；(4) 优化器以学习率 $1\times 10^{-6}$、rollout group size 8 在 8×A6000 上跑 3 epoch。ClawGUI-Eval 三阶段：Infer 生成预测→Judge 按 benchmark 判别器→Metric 对比官方 baseline。ClawGUI-Agent：用户从 12+ 聊天平台发消息→OpenClaw-GUI server 解析→PhoneAgent 优先 CLI，否则 fallback 到 GUI。

技术新颖性主要体现在三个工程层面的整合。其一，环境管理的多后端统一抽象：用 backend URL 把 emulator 与物理设备封装在同一接口后，训练 worker 无需感知硬件差异，这种'设备无关训练循环'在以往 GUI RL 系统中并不存在。其二，GiGPO + PRM 的'层级 credit assignment + 过程奖励'组合范式：本文首次在开源 RL 栈内同时启用两者并报告了 2.6 个百分点的稳定收益（14.5%→17.1%），相对增益 17.9%。其三，'评估即部署技能'：把 ClawGUI-Eval 暴露为 ClawGUI-Agent 的内置 skill，让用户用一句自然语言指令完成整套 benchmark，这在传统 agent 系统中没有先例，把复现研究从线下脚本操作提升为日常对话能力。

三个可改进方向。第一，环境管理的故障恢复粒度仍偏粗：Spare Server Rotation 在检测到 emulator 不健康时整体替换，但单个任务的中断-恢复没有细粒度的轨迹保存策略，长任务在轮换点上可能丢失已执行步骤；改进方向是引入 per-step snapshot 与 replay buffer，保证轮换时从最近 stable checkpoint 继续而非重置。第二，reward signal 的两个来源耦合不够：outcome reward 与 PRM step reward 当前以 $R = R_{\text{outcome}} + R_{\text{step}}$ 线性叠加进入同一通道，PRM 训练数据是否被策略更新后的分布污染、PRM 与 policy 是否会形成反馈循环都未讨论；改进方向是定期冻结 PRM 并在独立轨迹上做 calibration。第三，hybrid CLI-GUI 路由策略目前缺乏学习机制；改进方向是把 routing 自身作为可学习的 meta-policy，让模型在与真实设备交互过程中自动优化'何时用 CLI、何时用 GUI'的决策。

作者勾画四条未来方向：(1) 走向统一的 GUI-CLI agentic harness，把 CLI/GUI/API 调用视为可互换动作并由学习得到的 routing policy 决定执行模式；(2) 把在线 RL 扩展到 emulator 之外，借助代码生成模型构造 mock 应用覆盖长尾，或通过隐私保护的设备端轨迹采集利用真实用户交互；(3) 推动 on-device always-present system agent；(4) 训练 GUI 专用 world model，从同一份 screen-action 轨迹学习 UI 动力学，支持 counterfactual rollout。我延伸两点：把 ClawGUI-Eval 三阶段流水线扩展到交互式 long-horizon benchmark（OSWorld、AndroidWorld 全 split）并提供 trajectory-level 复现协议；把 GiGPO anchor-state 匹配从视觉相似扩展到语义结构相似，并结合 world model 预测误差作为额外 step-level reward 来源。

复现性评估整体较好。代码与模型权重在 GitHub（zju-real/ClawGUI）与项目页公开，论文明确表示'release pre-computed predictions'，意味着 ClawGUI-Eval 的 6 benchmark、11+ 模型推理结果都可直接下载用于 re-judge。训练侧复现成本：ClawGUI-2B 端到端训练需 8×A6000 (48GB) GPU、64 个并行 Docker 化 Android emulator、3 epoch、batch size 8、rollout group size 8，PRM 使用 Qwen3.5-72B 作 judge；评估侧支持本地 transformers 与 OpenAI 兼容 API，多 GPU 并行与 shard checkpoint 让中等规模实验室可以断点续跑。复现难度主要在三处：64 并行 emulator 部署需较强 DevOps 能力；real-device 训练需要真实 Android 手机 + 人工任务编写；Qwen3.5-72B PRM 与 frontier 模型 API 的获取存在访问门槛。