何时信任想象：面向世界-动作模型的自适应动作执行 When to Trust Imagination: Adaptive Action Execution for World Action Models
用未来-现实一致性验证器让机器人选择性信任WAM预测的未来。
前置知识
世界-动作模型 (World Action Model, WAM)
在统一神经网络内同时预测未来视觉与未来动作的范式，比 VLA 多了对世界动力学的显式建模。本文基于 Motus WAM，输入 $o_t$、$\ell$ 输出未来动作块 $\hat A$ 与潜在视觉 token $\hat O$。
FFDC 的全部价值都建立在 WAM 独有的'既能预测动作又能预测未来画面'这个性质上；如果不区分 WAM 与 VLA，就读不懂为什么过去用于 diffusion policy 的不确定性/熵方法在 WAM 场景下要被替换为'未来-现实一致性'。
动作块执行 (Action Chunking) 与开环误差累积
策略在每个推理步输出一段长度为 $H$ 的动作并按顺序执行，全部执行完才再次推理。这一范式由 RT-2 等工作普及，能减少推理频率但会产生误差累积——执行步数越多、任务越接触密集，预测偏离越大。基线 Base-Motus 用 $H=16$ 训练与执行。
本文的核心矛盾就来自固定 chunk：太短浪费推理、太长则误差累积。FFDC 要把 chunk 长度从超参变成由未来-现实一致性决定的涌现量，必须先吃透 action chunking 的这一两难。
自适应执行 / 在线执行步长估计
让执行步长随任务阶段或策略置信度变化，已有方法主要基于动作不确定性、扩散损失、熵或集成不一致性等'策略侧'信号触发重规划。本文则用 WAM 视觉预测做'现实侧'验证，把执行步长问题重新形式化为'还需不需要重规划'。
如果只熟悉传统自适应方法，会把 FFDC 误读成又一个'基于不确定性截断 chunk'的工作；它的判别信号来自对预测画面与真实画面的因果比对，正确的心智模型必须先建立。
结构化/因果注意力 (Structured / Causal Attention) 与 KV cache
用布尔可见性矩阵 $M(i,j)=1$ 表示 $x_i$ 是否能看到 $x_j$，即可构造'未来 token 只能看过去与对齐位置'的偏置。FFDC 把它扩展为'未来视觉-未来动作成对关注'，并把推理时不变的 WAM 输出显式缓存在 KV cache，每步只编码新观测。
FFDC 的轻量化与因果性完全依赖 attention mask 设计；如果只熟悉全连接 self-attention，会以为它的开销等同于一次完整 WAM 前向，但实际它只是新观测与 KV cache 的局部交叉。
整流流匹配 (Rectified Flow Matching)
把数据 $x_1\sim p_\text{data}$ 与噪声 $x_0$ 用直线 $x_t=(1-t)x_0+tx_1$ 连接，训练速度场 $v_\theta$ 接近 $x_1-x_0$ 的生成式训练目标。本文 WAM 用它同时训动作与视频。
虽然不是本文创新，但 $\mathcal{L}_\text{WAM}=\mathcal{L}_\text{act}+\mathcal{L}_\text{vid}$ 的并列写法隐含两个生成式任务，理解两者都基于 rectified flow matching 才能在同一框架下把握 verifier 与 WAM 的关系。
二分类验证器与数据增广合成失败样本
训练 verifier 的常见做法是用二元标签 $\mathcal{L}_\text{ver}=-y\log\sigma(z)-(1-y)\log(1-\sigma(z))$。当真实失败轨迹不足以覆盖失败模式时，可对成功轨迹做系统性扰动（时序交换、夹爪翻转、后期高斯噪声、尾部缩放）合成伪负样本。
FFDC 训练集中负样本主要由'corrupted positive demos'而来，理解这点才能看清作者如何规避'真实失败少'的数据瓶颈，也才能评估该 verifier 推广到真实长尾失败模式时的可靠性。
研究动机
现有 WAM 普遍采取固定 action chunk 执行——每步输出 $H$ 个动作、执行完再调用模型。这种做法带来两类代价：(1) 在动力学简单阶段（推刚性杯子），WAM 想象常常长时间保持准确，反复以 $H=16$ 这种短 chunk 纯属浪费算力；(2) 在接触密集或随机性强的阶段（挂马克杯、折叠布料），预测未来很快偏离真实，执行整个 chunk 会让误差累积到任务失败。RoboTwin 上的实证：Base-Motus 用 $H=16$ 时 Rand.hard 成功率只有 $54.20\%$，需 $7.73$ 次调用、$33.0$ 秒；机械把 chunk 加到 $64$（LC-64）能把 calls 压到 $1.92$，但成功率卡在 $73.00\%$。过去用于 diffusion policy 的自适应执行方法——多 horizon 预测、熵驱动 chunk 长度、调度式下采样、在线 executable-horizon 估计——判别信号完全来自动作本身（不确定性、熵、置信度），而 WAM 独有的'同时预测未来画面'反而被浪费。
本文的目标是本文目标是把 WAM 的'控制何时重新规划'从固定超参数提升为'未来-现实一致性'驱动的自适应过程，并形式化为一个二元验证问题：每执行 $k$ 步就用一个轻量验证器判断剩余动作段是否可以继续执行，若是则信任 WAM 的未来不再重规划，否则立即停止、按当前观测重新调用 WAM。具体到指标上，作者瞄准三件事：(a) 在 RoboTwin 50 个任务上，相对 Base-Motus 将 WAM 推理调用降低约 $69.10\%$、完成时间降低约 $34.02\%$、同时把成功率提高 $+2.54\%$；(b) 在真实 Astribot S1 机器人（25 DoF）的两个 pick-and-place 任务上，相对 LC-16 把成功率从 $45\%$ 提到 $80\%$（+35 pp）；(c) 让自适应 chunk 长度成为'涌现量'而非预设超参，在容易时跑得长、在困难时跑得短。
与已有工作不同的是，本文的独特切入角度在于：现有自适应执行决策只看'策略侧信号'（动作熵、不确定性、扩散损失），但 WAM 同时给出的未来画面预测提供了'内部期望'——机器人在执行时可以把真实观测与 WAM 预测的同时间步画面做对照，从而判断控制序列是否还站得住。基于此，作者把问题重新命名为 'future–reality verification'，并提出 Future Forward Dynamics Causal Attention (FFDC)：它用因果 attention 在预测动作、预测视觉、当前真实画面、语言指令之间做时间对齐的比较，让 chunk 长度由'预测与现实的一致性'动态决定。这与 OmniNWM、FSDrive 等'用世界模型做隐空间特征'的做法形成鲜明对比——后者把预测未来只当成表征学习的副产品，而本文将其作为执行阶段可被显式查询的'内部期望'。
核心方法
直觉上，整个方法把机器人控制建模成'人类'那样——一边持续预测未来、一边比对真实反馈，并在错位时减速/重规划。技术上，FFDC-WAM 由两层组成：上层是一个 WAM backbone（基于 Motus），它一次性输出一段未来动作 $\hat A$、对应的预测视觉 token $\hat O$ 以及来自 Understanding expert 的语义 token $L$；下层是一个 FFDC 验证器，它以 KV cache 形式存储 $\hat O$ 与 $L$，并以极高频率对'当前真实观测 + 剩余候选动作段'打分 $e_t\in[0,1]$。当 $e_t\geq\tau$（$\tau=0.5$）就继续执行，否则立即触发重新规划，从而让 chunk 长度由'未来-现实一致性'涌现决定。为了让 WAM 本身能支持长 horizon 想象，作者还提出 Mixture-of-Horizon 训练：在 episode 内均匀采样条件时刻 $s\sim\mathcal{U}\{1,\dots,T\}$，使模型在所有阶段都能作为预测起点，缓解早期 prefix 偏置。
FFDC 的本质区别于既有自适应执行方法之处在于：它把判别信号从'策略自己有多大把握'（熵、置信度、diffusion loss）换成'WAM 预测的画面与真实画面在因果上是否对得上'。三点不一样：(1) 利用 WAM 联合预测视频的优势，把'该继续执行吗'具象化为'未来视觉-未来动作是否一致'；(2) 用结构化因果 attention mask 保证每个未来动作 token 只能看到'局部时间对齐的预测视觉 token'与'之前的动作 token'，避免信息泄漏并保证可解释性；(3) WAM 输出的预测 token 只在第一次推理时计算一次并缓存为 KV，之后每步验证只对最新观测做轻量 encoder，从而把验证成本压成小 Transformer 前向。配套的 Mixture-of-Horizon 训练解决长 chunk 模型在训练时主要被早期帧 conditioned、后期预测不准的偏置。
方法步骤详情
三步：(1) WAM 推理（Motus）。$\pi_\theta(o_t,\ell)$ 输出 $\hat A,\hat O$ 和 Understanding 语义 $L$；训练 $\mathcal{L}_\text{WAM}=\mathcal{L}_\text{act}+\mathcal{L}_\text{vid}$，Mixture-of-Horizon 把 conditioning 起点 $s$ 在全 episode 均匀采样，缓解早期偏置。(2) 验证器 + KV cache：$X_t=[L,\hat O^p,o_t,\hat O^f,\hat A,[\text{CLS}]]$；$\hat O^p,\hat O^f,\hat A,L$ 一次性计算冻入 KV，每步只重编码 $o_t$。(3) 因果 attention + 二分类：$\hat O^j_f$ 与 $\hat A^j_t$ 时间对齐、限定只关注对齐位置；$[\text{CLS}]$ 经 $g_\psi$、$\sigma$ 得 $e_t\in[0,1]$，$\tau=0.5$ 决定续行/重规划；BCE 损失训练。
技术新颖性
技术新颖性集中在三点。第一，把'WAM 未来画面'从训练阶段的辅助监督提升为执行阶段可被显式查询的内部期望，这是过去所有 diffusion policy 自适应方法都没有利用过的信号；与 OmniNWM 仅用 latent 特征不同，本文直接在像素期望层做 verification。第二，结构化因果 mask 把'未来视觉-未来动作对齐'这种时序归纳偏置硬编码进 attention 矩阵而非交给模型学习，兼顾可解释性与轻量化；KV cache 设计则让 verifier 每步只做新观测的轻量编码，推理成本相对完整 WAM 可忽略不计。第三，Mixture-of-Horizon 训练把长 chunk 模型的 conditioning 起点从'早期'扩散到'全 episode'，配合 verifier 让 chunk 长度成为'涌现量'。相对 PWM/Epona 等 WAM 主要在 2D latent 上做想象、忽略了'想象 vs 现实'的运行时校验，本文填补了执行端的这一空缺。
实验结果
仿真（RoboTwin 50 任务）+真实（Astribot S1 2 pick-and-place）。仿真（Table 1）：Rand.avg/Clean.avg Base 87.66/85.66%、LC-64 88.46/87.26%、FFDC 88.90/88.20%；Rand.hard FFDC 把 Base $54.20\%$ 提到 $76.40\%$（+22.2 pp），Clean.hard $57.80\to 76.00\%$（+18.2 pp）。FFDC 平均 calls $5.47\to 1.69$（-$69.10\%$）、时间 $21.3\to 13.5\text{s}$（-$34.02\%$）。Fig. 3：Move-can-pot 一次推理成功；Hanging Mug 运输阶段长 chunk，最后阶段 confidence $\to 9.5\times10^{-5}$ 触发重规划。真实（Table 2）：SR $45\to 80\%$（+35 pp），时间 $25.6\to 28.1\text{s}$，调用 $14\to 16$。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| RoboTwin Rand.hard 子集（5 任务） | 成功率 SR (%) | 76.40% (T=20.5s, Calls=2.34) | Base-Motus 54.20% (T=33.0s, Calls=7.73); LC-64 73.00% (T=16.5s, Calls=1.92) | SR +22.2 pp vs Base, +3.4 pp vs LC-64；calls -69.7% vs Base，代价是略增的时间 |
| RoboTwin Clean.hard 子集（5 任务） | 成功率 SR (%) | 76.00% (T=18.8s, Calls=2.60) | Base-Motus 57.80% (T=29.5s, Calls=7.71); LC-64 74.60% (T=13.9s, Calls=1.88) | SR +18.2 pp vs Base, +1.4 pp vs LC-64；calls -66.3% vs Base |
| RoboTwin Rand.easy 子集 | 完成时间 T (秒) / SR (%) | 15.7s / 89.51% (Calls=1.62) | Base-Motus 23.5s / 89.16% (Calls=5.22); LC-64 13.3s / 88.89% (Calls=1.52) | 时间 -33.2% vs Base，SR 略 +0.35 pp；略慢于 LC-64 1.4s 但 SR 高 +0.6 pp |
| RoboTwin 全 50 任务平均 | Rand.avg / Clean.avg SR (%) 与时间 (秒) | 88.20% / 16.1s (Rand)；88.90% / 13.5s (Clean) | Base-Motus 85.66% / 24.4s (Rand)；87.66% / 21.3s (Clean)；LC-64 87.26% / 13.6s (Rand)；88.46% / 11.1s (Clean) | Rand SR +2.54 pp、Clean SR +1.24 pp，calls -69.10%、时间 -34.02%，达成论文摘要主张 |
| 真实机器人 pick banana and place it in the box | 成功率 SR (%) / 时间 / 调用 | 80% / 26.7s / 15 | LC-16 50% / 25.6s / 14 | SR +30 pp，时间 +1.1s，调用 +1 次 |
| 真实机器人 pick carrot and place it in the wooden box | 成功率 SR (%) / 时间 / 调用 | 80% / 29.5s / 17 | LC-16 40% / 25.6s / 14 | SR +40 pp，时间 +3.9s，调用 +3 次 |
| 真实机器人平均 (2 个 pick-and-place 任务) | 成功率 SR (%) / 时间 / 调用 | 80% / 28.1s / 16 | LC-16 45% / 25.6s / 14 | 平均 SR +35 pp（与论文摘要一致），时间 +2.5s，调用 +2 次 |
| RoboTwin hard 子集消融 (Table 3) - 去 predicted visual | 平均成功率 SR (%) | 全模型 76.4% | w/o Pred (去掉预测视觉) 71.6% | SR -4.8 pp，验证预测视觉是 verifier 最关键的输入 |
| RoboTwin hard 子集消融 - Hanging Mug 单任务 | 成功率 SR (%) | 全模型 44% (T=27.5s) | w/o Pred 32%, w/o Real 38%, w/o Action 33%, w/o Und 37% | Hanging Mug 在所有消融中波动最大（32-44%），显示该任务对四类输入都敏感 |
局限与改进
作者在 Conclusion 末段承认：'FFDC 是用成功、失败与合成扰动片段上的二元监督训练出来的，可能无法覆盖真实世界中所有执行偏离'。其他局限：(1) 真实机器人仅 2 个 pick-and-place 任务、每任务只对比 LC-16 一个 baseline、SR 是离散百分比，没有置信区间报告；(2) 阈值 $\tau=0.5$ 是硬编码的，未做不同任务的 sweep；(3) verifier 负样本主要靠合成扰动，对真实长尾失败（物体滑落、碰撞恢复、外部扰动）的泛化未验证；(4) 在仿真中 LC-64 已接近 FFDC 的 SR（Rand.hard $73.00\%$ vs $76.40\%$，差 $+3.4$ pp），FFDC 代价是 calls 比 LC-64 多 $0.42$、时间多 $4-5\text{s}$；(5) Motus 视觉预测能力对 verifier 上限构成天花板，本文没有分析'WAM 视觉预测变差时 verifier 是否同步退化'；(6) 真实实验 calls 仅差 $2$，提示'想象 vs 现实'信号在仿真里更干净，迁移到真实仍有挑战。
独立分析的弱点
独立审视后的弱点：(1) verifier 负样本主要由成功演示合成扰动而来，与真实 contact-rich 失败未必同分布；当真实失败涉及物体滑落、外力扰动或传感器漂移时，verifier 可能仍判'可信'而错过重规划机会，改进方向是采集更多真实失败 rollout 并把 verifier 改成连续置信估计+校准。(2) 阈值 $\tau=0.5$ 是硬编码超参，Hanging Mug 这种 32-44% 区间剧烈波动的任务尤其敏感，可改为 Platt scaling 或任务自适应阈值。(3) verifier 跑在 KV cache 之上但每次仍需重编视觉观测，真实 $2.5\text{s}$ 中相当一部分可能来自 verifier，改进方向是换成轻量 CNN 或共享 WAM 中间特征。(4) 仅利用时间对齐的视觉-动作配对，没有利用 WAM 已学到的'前向动力学'不确定性，可升级为'latent 距离 + 像素距离'双信号打分。(5) 仿真只对比 Motus 系内基线，未与 entropy-based 等 diffusion policy 自适应方法直接对照。
未来方向
作者在 Conclusion 提出把 verifier 扩展到更丰富失败模式与更大真实数据。基于此我提出四条方向：(1) 把 verifier 从二分类升级为连续可校准的 uncertainty，把 calibration loss 纳入训练，使阈值可以数据驱动地选取，避免硬编码 $\tau=0.5$。(2) 多模态 WAM 的 verifier 扩展：当 WAM 同时预测深度、分割、占用图等时，verifier 也应该把'几何一致性'与'语义一致性'拆开打分，给不同故障模式提供更细的可解释信号。(3) 与策略学习联合优化：让 WAM 在训练时同时优化'动作质量'与'可验证性'，鼓励 WAM 学会让 verifier 更易识别失败，构成 self-critical 协同训练。(4) 长 horizon 与多任务迁移：当前硬阈值控制只支持单任务单阶段，未来可探索 hierarchical verifier——上层判'整个任务是否还在正确轨道上'、下层判'下 chunk 是否可执行'，并迁移到更多机器人本体验证 verifier 能否跨 embodiment 泛化。
复现评估
开源情况：论文未声明代码与 checkpoint 开源，目前公开渠道未见官方仓库；代码需自行实现。数据：RoboTwin 公开可下载（50 任务）；Astribot S1 真实数据需自行采集；WAM backbone 基于 Motus。算力：WAM 训练需 4 张 NVIDIA A100 80GB，verifier 训练单张 A100，评估单张 A100；推理仍需 A100 级 GPU。难度：(a) WAM backbone 本身门槛高（rectified flow + 视频 + understanding expert 三模态）；(b) FFDC 的因果 attention mask 需手动编写，不能直接套用 HF 标准实现；(c) Mixture-of-Horizon 训练需重新设计 sampler；(d) verifier 的合成负样本 pipeline（四种扰动）需核对实现细节。综合：小型团队可在 RoboTwin 复现 Table 1 趋势，但拿到一致 SR 需在 WAM 实现细节、动作分块长度、视频预测 horizon 上对齐；真实复现需 Astribot S1 硬件。
论文图表
三面板图：(a) 未来-现实自验证流程示意——WAM 每步预测未来动作与视觉，FFDC 在每个执行步判定一致性，一致则继续执行，不一致则停止并重规划；(b) 固定 chunk 执行的两种风险：易阶段浪费推理、难阶段累积误差；(c) RoboTwin 上不同方法在成功率-完成时间二维平面的散点，FFDC 位于最右上。
这是论文唯一在 introduction 给出方法全貌与定量结果的图，对建立'问题-方法-效果'三段论直觉至关重要，特别 (c) 把整篇 Table 1 的核心 trade-off 浓缩在一张散点图上。