← 返回 2026-10-28

只需动作模型:用预测式未来监督替代视觉生成的统一机器人策略框架 Vision-Language-Action or World-Action? Just Action Models

Yonghao Yu, Lang Huang, Runyi Li, Toshihiko Yamasaki 📅 2026-10-27 👍 6 2026-11-11 18:30
世界-动作模型 机器人操作 模仿学习 视觉-语言-动作模型 预测式表征学习

用冻结未来表征的预测损失替代视觉生成目标,训练后丢弃预判分支,性能更高且训练更省

前置知识

VLA(视觉-语言-动作模型)

以预训练视觉-语言模型(VLM)为骨干的机器人控制策略:骨干编码摄像头画面与语言指令,动作专家输出未来 16/32 步的动作块。代表如 OpenVLA(自回归动作 token)与 π0/π0.5(流匹配动作专家)。训练只用轨迹中的动作监督,录制的未来画面被丢弃。

本文核心问题之一是:不做任何视觉生成、只用 VLM 骨干,能否同样从未来观测中受益?JAM 的 Qwen3.5-2B 分支正是对这一假设的直接验证,理解 VLA 才能看懂被解耦的『骨干初始化』这一选择。

WAM(世界-动作模型)

从图像/视频生成模型(Wan2.2、Ovis-U1 的 Yak18、FLUX.2)初始化的机器人策略:除模仿动作外,还用生成损失去噪未来视频潜变量或编辑未来图像,隐式学习环境动力学。部分方法推理时需先生成未来画面;FastWAM/ImageWAM 已去掉测试时生成,但训练时生成损失仍在。

JAM 的两组 matched 对照基线正是 FastWAM 与 ImageWAM,全文要检验的命题是『WAM 的优势到底来自训练时的视觉生成目标,还是仅仅来自利用了未来观测』。

流匹配(Flow Matching)

学习速度场把高斯噪声沿概率流 ODE 连续输运到目标分布的生成方法,训练为速度回归,推理从噪声迭代采样。π0、FastWAM、ImageWAM 的动作专家都用流匹配生成连续动作块:动作 query 经交叉注意力读取骨干上下文,逐步去噪得到 $\hat{a}_{1:H}$。

JAM 刻意保留被比较基线的动作专家初始化与流匹配推理路径完全不变,只改训练目标;知道动作如何生成,才能确认『部署路径逐位一致』这一公平比较前提。

JEPA 与预测式表征监督

不在像素空间重建目标,而是预测目标在编码器特征空间中的表征,用余弦距离在潜空间施加损失,目标侧梯度截断防塌缩。本文前瞻损失即此思路:冻结『未来锚点』编码录制未来帧作为目标,训练当前观测特征去预测它。

JAM 的核心公式 $\mathcal{L}_F$ 是余弦距离形式的前瞻损失,理解『预测表征而非像素』为何可行,是读懂本文为什么能去掉生成器的关键。

LIBERO / LIBERO-Plus / RoboTwin 2.0 基准

LIBERO 含四套共 40 个操作任务,每任务 50 次 rollout 报成功率;LIBERO-Plus 加相机、初始状态、语言、光照、背景、噪声、布局七类扰动,本文用 1,506 任务子集各评一次;RoboTwin 2.0 为 50 个双臂任务的 Clean/Randomized 两设定。

论文所有成功率都来自这三个基准,且 matched 比较与已发表结果使用不同评测协议(Table 6 中 † 标记),理解协议差异才能正确解读数字。

读取偏移(readout offset)与缓存目标

未来锚点按时间位置输出特征:$k=0$ 对应当前帧,$k\geq 1$ 对应录制未来帧(Wan 因果 VAE 每 4 帧合并为一潜位置,[1,2] 覆盖 4-16、20-32 步;Yak 系 [1] 为 16 步后单帧)。锚点冻结、条件固定时目标可离线缓存,训练在线只需前向当前帧。

偏移选择是本文最出乎意料的发现之一:只监督未来位置比只监督当前位置在 LIBERO-Plus 上高出约 11 个点,缓存目标则是 73% FLOPs 节省的来源。

研究动机

视觉-语言-动作模型(VLA)与世界-动作模型(WAM)之争把三件本可分开的设计选择捆在了一起:骨干用 VLM 还是视觉生成器初始化、是否对轨迹中录制的未来观测施加损失、以及施加该损失的模块在推理时是否保留。VLA(π0/π0.5、OpenVLA 等)只学动作,未来画面被丢弃;WAM(FastWAM、ImageWAM 等)额外用生成损失去噪未来视频潜变量或编辑未来图像,训练时必须加载解码/去噪路径,部分方法推理时还要先生成未来画面再执行。单比成功率无法分辨差异来自哪个选择:FastWAM 在 LIBERO/LIBERO-Plus 上为 97.0%/55.3%,ImageWAM(Ovis-U1)为 92.9%/65.3%,但二者骨干、目标、架构全都不同。更成问题的是,FastWAM 与 ImageWAM 在去掉测试时生成后,把 WAM 的优势归因于『训练时的视觉生成目标』,这一归因从未在受控实验中被检验过。

本文的目标是本文的目标是把上述三个纠缠的选择解耦,并回答一个更基本的问题:从录制的未来观测中学习,到底需不需要视觉生成目标?为此提出统一框架 JAM(Just Action Model):一个预训练视觉骨干加一个动作专家,用动作损失 $\mathcal{L}_{act}$ 加前瞻损失 $\mathcal{L}_F$ 训练——前瞻损失让当前观测特征去预测冻结编码器给出的未来表征,训练结束后整个前瞻分支(锚点与预测头)被丢弃,部署时没有生成、没有额外模块。具体目标有三:(1) 在固定策略架构、数据、优化器、训练预算与部署路径的前提下,把 FastWAM/ImageWAM 的生成目标换成前瞻目标,做严格 matched 比较;(2) 把同一目标推广到生成式、自监督、视觉-语言三类预训练骨干,检验配方普适性;(3) 量化去掉生成后的训练成本节省。

与已有工作不同的是,已有工作的切入角度各有局限:FastWAM 与 ImageWAM 只去掉了测试时生成,保留训练时生成损失,就把功劳记给生成目标,缺少『损失』这一变量的受控消融;JEPA-WAM 用冻结 V-JEPA 空间的稠密当前-未来联合目标,但绑定特定预训练 VLA 结构并保留部分预测通路;FLARE 把未来、状态、动作 token 混入动作 DiT 的自注意力,直接改变了动作计算路径;FRAPPE、VLAFlow、PFD 等在推理时保留对齐流或残差适配器。JAM 的独特之处有三:未来观测只以冻结目标的身份进入损失,前瞻分支训练后整体删除,部署结构与其对照基线逐位一致;目标空间按骨干逐个选择(而非固定在某个预训练表征空间);首次在生成式(Wan、Ovis-U1、FLUX.2)、自监督(DINOv2-B/L)、视觉-语言(Qwen3.5-2B)三类骨干上用同一个损失验证『未来监督不依赖视觉生成』。

核心方法

直觉上,JAM 主张『学预判、不做生成』:让策略的视觉特征里蕴含接下来会发生什么的信息,但不要求它真的画出未来画面。技术路线是:策略由预训练视觉骨干(编码当前观测 $f_0$,可条件化于指令 $c$)与动作专家(读取视觉上下文、文本、机器人状态 $s_0$ 与加噪动作块,经流匹配采样输出 $\hat{a}_{1:H}$)组成,这两者就是部署时的全部结构。训练时额外挂一个冻结『未来锚点』分支:锚点(预训练骨干副本、随机初始化副本、或策略自带的 VAE 分词器)编码录制未来 $f_{1:T}$ 得到目标特征 $g_k$;一个轻量预测头把骨干中间层的当前观测 token $h^{(\ell)}$ 映射到目标空间,与 $g_k$ 做余弦距离。总损失为 $\mathcal{L}_{JAM}=\mathcal{L}_{act}+\lambda_F\mathcal{L}_F$。训练结束后锚点与预测头整体删除,推理路径与被比较的 FastWAM/ImageWAM 完全相同:骨干编码一次 $f_0$ 与 $c$,动作专家在各流匹配步复用该上下文。

核心创新是把『未来』从输入或生成对象降格为纯粹的学习信号:未来观测只作为冻结目标的编码进入损失,梯度经预测头回流到策略骨干(目标侧 stop-gradient),永不进入动作路径。与 WAM 的本质区别是不再需要解码器/去噪路径,骨干因此可以自由选择;与 VLA 的本质区别是同样的轨迹数据被多利用了一次。两个经验发现支撑设计:其一,读取偏移比换目标本身更关键——对 Wan 骨干,只监督当前位置 [0] 时 LIBERO-Plus 仅 44.62%,换成未来位置 [1,2] 升至 55.58%,把当前位置加回 [0,1,2] 反而降到 54.18%(双向注意力下当前位置特征已隐含未来信息);其二,目标不需要与策略同源或预训练——Wan 骨干配冻结 VAE 潜变量目标最好(64.54%),随机 Wan 目标也有 58.63%,而 Ovis-U1 配预训练 Yak 目标最好(79.95%)。锚点只需提供稳定、依赖输入的特征,最优目标与架构相关。

方法步骤详情

第一步,选定骨干与动作专家并沿用基线配方:FastWAM 用 Wan2.2-5B 加同深动作专家,ImageWAM 系用 Yak18/FLUX.2/DINOv2/Qwen3.5-2B 加匹配宽深的专家,动作块 32/16 步。第二步,构建前瞻目标:冻结锚点(骨干副本、随机网络或策略 VAE)读取当前帧、指令与未来帧(Wan 九帧窗口,其余单帧),在约 60% 深度取特征得 $g_k$;锚点固定,目标可离线缓存。第三步,算前瞻损失:预测头(两层 transformer)把 $h^{(\ell)}$ 映为 $\hat{g}_k$,$\mathcal{L}_F=\frac{1}{|K|}\sum_{k\in K}\mathbb{E}_n[1-\cos(\hat{g}_{k,n},sg[g_{k,n}])]$,权重 $\lambda_F$=0.6 或 0.3。第四步,按基线预算训练(LIBERO 20k-21.7k 更新),RoboTwin 五个 epoch。第五步,删除锚点与预测头部署:骨干编码一次 $f_0$ 与 $c$,动作专家复用上下文流匹配采样输出 $\hat{a}_{1:H}$。

技术新颖性

技术新颖性有三。其一,方法学上的解耦论证:不同于 FastWAM/ImageWAM 直接宣称生成目标有效,本文在架构、数据、优化器、预算、部署路径全部固定的 matched 比较中只动损失一项(Table 1),使『生成 vs 前瞻』的因果归因首次成立,并以 bootstrap 置信区间与 McNemar 检验(全部 $p<0.05$)背书。其二,『即插即弃』的前瞻分支:与 FLARE(未来 token 进入动作 DiT 注意力)、JEPA-WAM(联合目标、部署保留通路)、FRAPPE/VLAFlow/PFD(推理保留对齐流或残差适配器)不同,JAM 的预测头只监督既有骨干 token,动作计算逐位不变,训练后整体删除;目标可缓存使 Wan 在线 FLOPs 每样本每更新从 15.52 降至 4.19 TFLOPs(-73.0%)。其三,跨预训练家族的统一性:同一余弦前瞻损失同时适用于视频生成 DiT、图像编辑骨干、自监督编码器与 VLM,并给出『最优目标与架构相关』的新结论(Wan 配纯 VAE、Ovis-U1 配预训练 Yak)。

JAM training (left) and deployment (right), with the notation of Section 3.2.
Figure 2: JAM training (left) and deployment (right), with the notation of Section 3.2.

实验结果

实验分两阶段。第一阶段(Table 1,固定架构只换损失):FastWAM 换前瞻后 LIBERO-Plus 55.31%→64.54%;ImageWAM 换 Yak 目标后 65.27%→79.95%;偏移 [0]→[1,2] 使 LIBERO-Plus 44.62%→55.58%。骨干消融:策略骨干必须预训练,锚点随机也有效。第二阶段(Table 3):JAM(Ovis-U1)79.95%、JAM(Qwen3.5-2B)81.14%、JAM(DINOv2-L)70.39%,均超 ImageWAM 的 65.27%;Qwen3.5 加前瞻 77.03%→81.14%。对外比较:LIBERO-Plus 上 JAM 三组均第一,超 FastWAM 9.2、ImageWAM 14.7 点;RoboTwin 上 JAM(FLUX.2)93.1% 最高。成本:缓存目标使在线 FLOPs 降 73.0%/36.8%。统计(Table 20):McNemar 全部 p<0.05,三次独立训练方差 ≤0.43 点。机制上(Figure 4/9):JAM[1] 特征的未来变化最易解码。

Generation versus foresight supervision with the policy architecture fixed.
Table 1: Generation versus foresight supervision with the policy architecture fixed.
JAM (Wan) with the backbone and the future anchor each pretrained or random.
Table 2: JAM (Wan) with the backbone and the future anchor each pretrained or random.
LIBERO success (%), averaged over four suites. Table 18 gives per-suite results.
Table 5: LIBERO success (%), averaged over four suites. Table 18 gives per-suite results.
LIBERO-Plus success (%) by perturbation category, with the task-weighted average.
Table 6: LIBERO-Plus success (%) by perturbation category, with the task-weighted average.
Training targets and action contexts across backbones.
Table 7: Training targets and action contexts across backbones.
Default prediction-head dimensions.
Table 8: Default prediction-head dimensions.
Training-only parameters, estimated online FLOPs per sample per update, and measured GPU time over the profiled operations.
Table 9: Training-only parameters, estimated online FLOPs per sample per update, and measured GPU time over the profiled operations.
Frozen pretrained and EMA Wan future anchors on LIBERO.
Table 10: Frozen pretrained and EMA Wan future anchors on LIBERO.
LIBERO success in percent by Wan block. Depth indexes the 30 visual blocks.
Table 11: LIBERO success in percent by Wan block. Depth indexes the 30 visual blocks.
LIBERO success rates in percent across foresight loss weights $\lambda_F$ for Wan.
Table 12: LIBERO success rates in percent across foresight loss weights $\lambda_F$ for Wan.
Prediction-head capacity on LIBERO.
Table 13: Prediction-head capacity on LIBERO.
Action-only controls on LIBERO-Plus.
Table 14: Action-only controls on LIBERO-Plus.
Separate action expert versus shared backbone weights for Qwen3.5 on LIBERO-Plus.
Table 15: Separate action expert versus shared backbone weights for Qwen3.5 on LIBERO-Plus.
Success rates in percent for FastWAM and JAM with Wan at two training budgets.
Table 16: Success rates in percent for FastWAM and JAM with Wan at two training budgets.
LIBERO success rates in percent for pretrained and random initialization of the Wan backbone and future anchor.
Table 17: LIBERO success rates in percent for pretrained and random initialization of the Wan backbone and future anchor.
LIBERO success rates in percent by suite.
Table 18: LIBERO success rates in percent by suite.
RoboTwin 2.0 success rates in percent.
Table 19: RoboTwin 2.0 success rates in percent.
Fixed-checkpoint comparisons with generative baselines, using VAE-direct [1,2] targets for Wan and pretrained Yak [1] for Ovis-U1.
Table 20: Fixed-checkpoint comparisons with generative baselines, using VAE-direct [1,2] targets for Wan and pretrained Yak [1] for Ovis-U1.
Success rates in percent across three independent training runs.
Table 21: Success rates in percent across three independent training runs.
Matched LIBERO-Long rollouts for ImageWAM and JAM, both on Ovis-U1.
Figure 3: Matched LIBERO-Long rollouts for ImageWAM and JAM, both on Ovis-U1.
Action-to-visual attention on one LIBERO-Long observation for put the white mug on the left plate and put the yellow and white mug on the right plate, in the agent and wrist views.
Figure 5: Action-to-visual attention on one LIBERO-Long observation for put the white mug on the left plate and put the yellow and white mug on the right plate, in the agent and wrist views.
Paired LIBERO-Plus outcomes on 1,506 shared tasks.
Figure 6: Paired LIBERO-Plus outcomes on 1,506 shared tasks.
Matched rollouts with Ovis-U1 on LIBERO-Plus in panels a and b, and with Wan on RoboTwin 2.0 in panels c and d.
Figure 7: Matched rollouts with Ovis-U1 on LIBERO-Plus in panels a and b, and with Wan on RoboTwin 2.0 in panels c and d.
Action-to-visual attention in the agent view on LIBERO and LIBERO-Plus.
Figure 8: Action-to-visual attention in the agent view on LIBERO and LIBERO-Plus.
Mean future-frame PSNR.
Figure 9: Mean future-frame PSNR.
查看结构化数据
任务指标本文基线提升
LIBERO(四套件平均,Wan 系 matched 比较) 成功率 % JAM (Wan, VAE 目标 [1,2]) 98.15 FastWAM(生成损失)97.00 +1.15 点,McNemar p=0.015
LIBERO(Ovis-U1 系 matched 比较) 成功率 % JAM (Ovis-U1, Yak 目标 [1]) 96.75 ImageWAM (Ovis-U1) 92.90 +3.85 点,p=1.01e-9
LIBERO-Plus(1,506 扰动任务,Wan 系) 成功率 % JAM (Wan) 64.54 FastWAM 55.31 +9.23 点 [+6.84,+11.69]
LIBERO-Plus(Ovis-U1 系) 成功率 % JAM (Ovis-U1) 79.95 ImageWAM (Ovis-U1) 65.27 +14.67 点 [+12.15,+17.13]
LIBERO-Plus(VLM 系) 成功率 % JAM (Qwen3.5-2B) 81.14 同架构 action-only 77.03 / ImageWAM 65.27 +4.11 点(对照)/+15.87 点(跨基线)
RoboTwin 2.0(Clean+Randomized 平均) 成功率 % JAM (FLUX.2) 93.1;JAM (Wan) 91.4;JAM (Qwen3.5-2B) 89.8 ImageWAM (FLUX.2) 92.9;FastWAM 91.2;π0.5 79.8 各分组内最高或持平(+0.2~+10.0 点)
在线训练成本(Wan 系,缓存目标) TFLOPs / 样本 / 更新 4.19 FastWAM 15.52 -73.0%(GPU 实测时间 -67.3%)
在线训练成本(Ovis-U1 系,缓存目标) TFLOPs / 样本 / 更新 3.67 ImageWAM 5.81 -36.8%(GPU 实测时间 -37.8%)

局限与改进

局限如下。其一,全部实验在仿真完成,无真机验证,sim-to-real 域差是最大未知数。其二,作者明确说明跨骨干比较(Table 3)无法分离预训练效应,因各骨干架构与动作接口不同——DINOv2 明显落后(LIBERO-Plus 70.39% vs Qwen3.5 的 81.14%)是预训练类型差异还是无语言输入的结构差异,无法断言。其三,读取偏移与锚点靠逐架构扫描(Wan [1,2]、Ovis 系 [1]、约 60% 深度),$\lambda_F$ 在 0.4-0.7 网格上挑,无普适选择原则。其四,LIBERO-Plus 用 1,506 任务子集且每任务仅一次 rollout,噪声比完整协议更大。其五,前瞻目标只是单帧或短窗口,无长时程或非视觉模态未来;缓存目标要求条件固定,限制数据增广。其六,分类别并非全面占优:Ovis-U1 系在 robot-state(49.2 vs 54.8)、Wan 系在 background(46.2 vs 49.5)仍劣于各自基线;RoboTwin 上 JAM (Qwen3.5-2B) 落后 JAM (FLUX.2) 3.30 点。

独立分析的弱点

独立分析几点弱点并给改进方向。(1) 目标选择无原则可循:Wan 偏好 VAE 潜变量(64.54%)、Ovis-U1 偏好预训练 Yak(79.95%),换新骨干仍需网格搜索——可按目标表征的时序互信息或探针可解码性自动选锚点与偏移。(2) 单一余弦损失容量有限:只约束方向不约束幅度,目标空间冻结,未来信息超出锚点表征容量即无法监督——可引入多锚点组合或轻量可学习目标空间。(3) 未来视界固定(16/32 步)与任务时长无关:LIBERO-Long 仍是各方法最弱套件(JAM (Ovis-U1) 90.4%),长程任务需要多尺度未来监督——可按动作块长度自适应设定偏移。(4) 自监督骨干的语言盲区:DINOv2 前瞻目标不含指令语义,LIBERO-Plus 语言扰动 80.74 分反低于 action-only 的 86.48——可配语言条件锚点。(5) 缓存与增广冲突:缓存依赖固定条件,强视觉增广会使目标失配,需在线重算或增广不变锚点,成本未讨论。(6) 缺真机与安全指标:前瞻特征是否降低碰撞、损坏等失败模式无度量。各点均可直接作为后续选题。

未来方向

作者方向与可延伸方向。作者已指出跨骨干比较未分离预训练效应,未来可在统一动作接口下做受控预训练消融,回答『VLM 预训练 vs 生成器预训练哪个更有用』这一被本文搁置的问题。基于其成果可延伸:(1) 真机部署与 sim-to-real 验证——LIBERO-Plus 相机扰动上 JAM-only 对 baseline-only 任务数为 71 对 9,这一鲁棒性增益是否迁移到真实视觉域差值得检验;(2) 把丢弃的预测头改造成在线监控器——部署时用『预测的未来表征 vs 实际观测编码』的偏差做异常检测、触发重规划或保守动作,零生成成本,是 JAM 框架的天然扩展;(3) 与具身预训练结合——Table 4/5 中带机器人数据预训练的 LingBot-VA、Motus 仍领先或持平,JAM 配大规模机器人轨迹预训练可能同时拿下两个基准;(4) 多模态与层次化未来目标(深度、触觉、近/中/远多尺度偏移);(5) 理论分析为何未来位置监督优于当前位置(双向注意力下 [0] 已含未来信息、加回 [0] 反而稀释梯度);(6) 用前瞻损失下降速度给轨迹打分,做数据筛选与课程学习。

复现评估

复现条件较好。代码与部分模型权重公开(项目页 https://y0uroy.github.io/JAM),实现基于公开的 FastWAM 与 ImageWAM 代码,基准数据全部公开。附录细节充分:架构与目标接口(Table 7)、预测头维度(Table 8)、FLOPs 核算与 GPU 实测方法(附录 B)、全部消融与 action-only 对照(附录 C)、评测协议含子集抽样、10 万次 bootstrap 置信区间、McNemar 检验与三次独立训练(附录 D)。算力门槛较高:所有训练用 8 块 NVIDIA GH200、bf16;单配置 LIBERO 训 20k-21.7k 次更新(全局批 128),RoboTwin 五个 epoch(批 384-1,024),覆盖六个骨干家族的完整复现成本不低。有利因素:结果方差小(LIBERO-Plus 三次运行 64.61±0.37% 与 79.92±0.43%)、锚点可用随机网络或 VAE,核心结论在单骨干上只需一次 20k 更新训练即可初步验证。综合评级:复现难度中等偏上,瓶颈在算力而非工程细节。

相似论文推荐