面向无想象世界动作模型的未来表征蒸馏 Future Representation Distillation for Imagination-free World Action Models
蒸馏视频扩散模型的预测表征，让机器人无需生成未来视频即可11Hz实时控制
前置知识
流匹配
流匹配是一类生成建模方法：把噪声分布到数据分布的变换建模成一条连续概率路径，训练网络学习路径上的速度场。本文以 $x_t=(1-t)x^*+t\epsilon$ 构造加噪样本，网络 $u_\theta(x_t,t,\ell)$ 学习预测 $\epsilon-x^*$，损失为均方误差；推理时从纯噪声出发沿速度场积分若干步得到样本。相比传统扩散模型训练目标更简洁，Wan2.2 等视频生成模型即采用此范式。
本文两处直接使用流匹配：第一阶段作为视频骨干的生成正则 $\mathcal{L}_{gen}$，第二阶段动作解码器用流匹配生成动作块，不看懂它就无法理解损失函数与推理流程。
世界动作模型（WAM）
WAM 指把预训练视频扩散模型改造成机器人控制策略的模型家族。视频模型在大规模视频上学到世界如何随时间演化的预测知识，WAM 通过联合去噪未来视频与动作序列、或先预测未来视频再用逆动力学解码动作来利用这种知识，代表工作包括 Ye et al. 的 WAM、DreamZero、Cosmos Policy。
DREAMFREE 本身就是一个 WAM，只是把先生成未来视频再出动作改为直接从当前观测的预测性表征出动作，理解原生 WAM 范式才能理解它的改进点。
表征对齐（REPA）
REPA 是一种辅助训练技巧：训练扩散模型时，把中间层隐藏表征经一个小的投影头对齐到强预训练编码器（如 DINOv2）的表征，用相似度损失稳定并加速生成训练。它证明了扩散模型的中间表征可以承载丰富的语义与结构信息，而不只服务于去噪本身。
本文的未来表征蒸馏直接受 REPA 启发，但把对齐目标换成冻结视频模型看过未来帧后的表征，用途从加速生成变成服务控制，是全文核心机制的源头。
视觉-语言-动作模型（VLA）
VLA 把预训练视觉-语言模型改造成直接输出机器人动作的策略，输入图像或视频加语言指令，输出动作序列，代表工作有 π0、π0.5、OpenVLA-OFT、GR00T-N1.5、FLARE。图文预训练赋予其语义与语言理解先验，但对机器人控制所需的时空动态把握天然有限。
VLA 是本文最重要的对比基线之一，论文反复对照 WAM（视频先验）与 VLA（语义先验）两种范式，理解 VLA 才能看清 DREAMFREE 的定位与优势来源。
动作块与闭环控制频率
机器人策略通常一次预测一段连续动作序列（动作块）而非单步动作，本文动作视野为 32 步，视频按 4 倍时间下采样后每个动作块对应 9 帧。闭环控制频率指每秒完成感知-推理-执行一轮的次数，由单块推理延迟决定，例如延迟 91ms 约对应 11Hz。
论文的核心卖点之一是对 DreamZero 17.8 倍的加速与 11Hz 的实时闭环控制，这些数字全部建立在动作块延迟与闭环频率的概念之上。
研究动机
预训练视频扩散模型为机器人控制提供了新基座：它们在大规模视频上学到了物理环境如何随时间演化的预测知识，这类改造后的模型被称为世界动作模型（WAM），代表工作 DreamZero 用 Wan-14B 视频骨干联合去噪未来视频与动作序列，展现了很强的操作性能与泛化。但这条路线有两个现实痛点：第一，部署时迭代视频去噪极其昂贵，DreamZero 生成一个动作块要 1632 毫秒，无法满足实时闭环控制；第二，预测的未来视频一旦出错，解码出的动作也会随之出错——在折叠衣物、盖毛巾、挂帽子等涉及形变物体或连续重排的任务上，DreamZero 因视频预测不准而全部试次失败，而且初错之后往往固执地重复无效动作。论文还点出一个被悬置的根本问题：动作预测是否真的需要视频生成级别的视觉细节？
本文的目标是本文想回答的核心问题是：能否不用迭代生成未来视频，就把预训练视频扩散模型中的预测知识真正用于动作预测。具体目标分几层：让一个只看当前观测与指令的视觉编码器，在单次前向中产出蕴含未来信息的预测性表征；把这套表征交给动作模块，在 LIBERO、RoboCasa-Kitchen 模拟基准和 DROID 真机评测上超越最强 VLA 与 WAM 基线；验证更强的视频骨干（5B 到 14B）和更多无动作标注的视频数据能否转化为更强的控制能力；并探索从纯视频演示学习新任务，包括跨本体的视频，为新任务免去动作采集成本。工程上还要求在 14B 视频骨干下实现实时闭环控制，论文最终给出 11Hz 的结果。
与已有工作不同的是，已有工作要么在部署时生成未来视频（如 DreamZero、Cosmos Policy），推理昂贵且视觉误差会传导到动作；要么像 Fast-WAM 那样训练时保留视频预测、部署时直接出动作，但其表征到底保留了多少视频模型的预测知识并不清楚——Fast-WAM 在 RoboCasa-Kitchen 24 个任务上只有 44.4% 的成功率，且骨干从 5B 扩到 14B 几乎没有收益，说明不生成视频地利用视频先验并非易事。DREAMFREE 的独特切入是显式蒸馏：把冻结视频扩散模型看过带噪未来帧后的中间层表征当作蒸馏目标，强迫只看当前帧的学生编码器在特征空间预演未来，把预测知识直接写进动作预测所用的特征里，而不是依赖像素级的视频生成。
核心方法
直觉上，本文想让想象未来这件事发生在特征空间而非像素空间：编码器看一眼当前场景，其特征已经悄悄推演过接下来会怎样，动作模块再从中读出该执行什么。技术路线分两阶段。第一阶段把预训练视频扩散骨干（Wan2.2-5B 或 Wan2.2-A14B 高噪专家）改造成预测性视觉编码器：用结构化注意力掩码限制当前帧 token 只互相注意，保证表征只依赖当前观测与指令；训练目标是原生流匹配生成损失 $\mathcal{L}_{gen}$ 加上未来表征蒸馏损失 $\mathcal{L}_{distill}$，后者把编码器当前帧表征投影后对齐到冻结教师模型看过带噪未来帧的中间层表征，此阶段不需要任何动作标注。第二阶段在带动作标注的机器人演示上训练动作模块：Perceiver 式读出模块把表征压成少量动作向 token，1B 的 DiT 动作解码器用流匹配生成 32 步动作块。
核心创新是未来表征蒸馏。教师是冻结的视频扩散模型 $g$，输入当前干净帧加带噪未来帧（噪声水平由固定时间步 $t_d$ 控制，$x_{t_d}=(1-t_d)x^*+t_d\epsilon_d$），取其第 $j$ 层隐藏表征作目标；学生是只看当前帧和指令的编码器 $u_\theta$，取第 $i$ 层表征 $h_i$，经轻量 Transformer 解码器投影头 $p_\psi$ 映射到教师的时空 token 布局与特征维度后最大化相似度：$\mathcal{L}_{distill}:=\mathbb{E}[-\mathrm{sim}(p_\psi(h_i),\,g_j(x_{t_d},t_d,\ell))]$，再与生成正则 $\mathcal{L}_{gen}$ 联合训练。与 DreamZero 的本质区别：预测知识不再以像素级视频生成为载体而是内嵌于表征，推理时单次前向、无想象；与 Fast-WAM 的区别：显式蒸馏保证表征对预测知识的保真度；与 REPA 的区别：蒸馏目标换成了含未来帧的视频表征，用途从加速生成变为服务控制。
方法步骤详情
第一步，构造学生编码器：以预训练视频 DiT 初始化，用结构化掩码让当前帧 token 只互相注意。第二步，蒸馏训练：对视频 $x^*$ 加噪得 $x_{t_d}$，取冻结教师第 $j$ 层表征；学生取当前帧第 $i$ 层表征 $h_i$，投影头 $p_\psi$ 将其映射为教师形状；以 $\mathcal{L}=\mathcal{L}_{gen}+\mathcal{L}_{distill}$ 联合训练，教师与投影头部署时全部丢弃，此阶段无需动作标注。第三步，动作学习：在带标注机器人演示上训练动作模块，读出模块 $r_\omega$ 用可学习 latent query 做自注意力与交叉注意力，把编码器第 $k$ 层表征压成固定数量的动作向 token $c=r_\omega(h_k)$；动作解码器 $u_\phi$ 为 1B 交叉注意力 DiT，以 $c$、本体感觉 $q$、指令 $\ell$ 为条件，用流匹配损失 $\mathcal{L}_{act}$ 生成 32 步动作块。第四步，推理只需一次编码器前向加 $N$ 步动作去噪，14B 骨干达到 11Hz 闭环。
技术新颖性
新颖性有三点。其一，蒸馏方向与目标的反转：REPA 类方法把扩散模型中间表征对齐到静态图像编码器以加速收敛，本文把目标设为看过未来帧的视频扩散表征，相当于让教师充当时间预言机，逼学生从当前帧预测未来——这是把生成模型当作世界知识源的一种新蒸馏用法。其二，结构化注意力掩码保证因果纯净：当前帧表征只依赖当前观测与指令，不存在未来帧信息泄露，使预测性有明确的语义。其三，训练目标解耦带来数据效率：第一阶段不依赖动作标注，可扩展到野生视频甚至跨本体视频，消融证明蒸馏是性能主因（去掉后 RoboCasa 从 71.7% 跌至 47.2%），生成损失是必要正则（去掉后 55.6%）；骨干 5B 到 14B 提升 13.2 个百分点，证明该机制确实把更强的视频先验转化成了更强的控制。
实验结果
Q1 表征分析：冻结特征训探针，蒸馏后的编码器动作探针误差低于仅当前帧 VDM 与无蒸馏变体，甚至低于当前加未来帧的 VAE latents；未来帧 VAE latent 重建误差同样大降，说明当前帧特征确实装进了未来信息。Q2/Q3 模拟性能：LIBERO 平均成功率 98.6%，与最强 VLA 持平（LingBot-VA 98.5%）；RoboCasa-Kitchen 24 任务 71.7%（14B），领先 Cosmos Policy 67.1%、Fast-WAM 14B 44.7%；骨干 5B→14B 提升 13.2 个百分点，加 RoboCasa365 无标注视频后达 74.4%。Q4 真机：DROID 10 任务成功率 64% 对 DreamZero 56%、π0.5 16%；延迟 91ms/块，对 DreamZero 1632ms 加速 17.8 倍，闭环 11Hz，以 π0.5 的 1.1 倍延迟换 4 倍成功率。Q5 视频迁移：原子到复合任务 0%→21.7%（无蒸馏 0%）；跨本体迁移 6.7%→30%；策略训练后用 10 条视频微调编码器，每任务约 10 分钟。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| LIBERO（4 个任务套件，模拟，分布内） | 平均成功率 | 98.6% | LingBot-VA 98.5%，Motus 97.7%，Fast-WAM 97.6%，OpenVLA-OFT 97.1%，π0.5 96.9% | +0.1pp，与最强基线持平，且未使用跨本体预训练 |
| RoboCasa-Kitchen（24 任务，模拟，每任务 50 条演示） | 平均成功率 | 71.7%（14B 骨干）；加额外视频后 74.4% | Fast-WAM 14B 44.7%，Cosmos Policy 67.1%，FLARE 66.4%，π0 62.5% | 对最强 WAM +27.0pp，对最强 VLA 基线 +4.6pp |
| DROID 真机 10 任务（每任务 5 次试次，开箱部署） | 平均成功率 / 平均任务进度 | 64% / 83% | DreamZero-DROID 56% / 71.8%，π0.5-DROID 16% / 33.5% | 成功率对 DreamZero +8pp、对 π0.5 +48pp；进度对两者分别 +11.2pp、+49.5pp |
| 推理延迟（NVIDIA H200，14B 视频骨干） | 每动作块延迟 / 闭环频率 | 91ms，11Hz | DreamZero 1632ms，π0.5 81ms | 对 DreamZero 加速 17.8 倍；延迟仅为 π0.5 的 1.1 倍而平均成功率 4 倍 |
| 编码器训练目标消融（LIBERO / RoboCasa-Kitchen） | 平均成功率 | 完整目标 98.6% / 71.7% | 去掉蒸馏损失 94.6% / 47.2%；去掉生成损失 98.0% / 55.6% | 蒸馏贡献 +4.0pp/+24.5pp，生成正则贡献 +0.6pp/+16.1pp |
| 原子到复合任务的视频迁移（RoboCasa-Kitchen） | 复合任务平均成功率（20 次/任务） | 21.7%（加任务视频并蒸馏） | 基模型 0%；加视频但无蒸馏 0% | 从 0 到有且每个任务至少一次成功，蒸馏是纯视频学新任务的必要条件 |
| 跨本体视频迁移（RoboTwin，目标机器人 ALOHA-AgileX） | 新复合任务平均成功率 | 30%（编码器额外学习双臂 Franka Panda 视频） | 基模型 6.7% | +23.3pp，全程不使用新任务的动作标注 |
局限与改进
作者承认的局限：不是所有任务都能从视频学会——不会开柜门的策略，也无法仅靠视频微调学会把物体放进柜子，说明视频学习受底层原子技能的上限制约；附录 D.3 还给出了失败案例分析。我的补充观察：其一，真机评估只覆盖预训练分布内的 10 类任务、每任务仅 5 次试次，统计置信度有限，且属于新物体新场景的分布内泛化，语言指令跟随与全新任务类型未系统评估；其二，DROID 上未来探针的重建误差与看到真值未来帧的 VDM 仍有差距，说明蒸馏并未完全逼近教师的前瞻能力；其三，教师时间步 $t_d$ 与蒸馏层对 $(i,j)$ 是固定超参，缺少多时间步、多层级蒸馏的探索；其四，91ms 延迟虽达实时但仍慢于 π0.5 的 81ms，动作解码器的 $N$ 步去噪是残余瓶颈；其五，双臂 YAM 实验只有定性展示，没有与双臂基线的定量对比。
独立分析的弱点
第一，蒸馏目标只在单一时间步 $t_d$、单一层对 $(i,j)$ 上进行：教师只在一种噪声水平下看未来，难以覆盖不同时间尺度的动态（瞬时接触变化与慢速场景演变），可改进为随机采样多时间步或课程式退火，并对浅层几何、深层语义做多层级对齐。第二，动作读出只取编码器第 $k$ 层表征：动作相关信息可能分散在多个层，可探索多层 token 混合或让动作模块交叉注意多个层级。第三，纯视频迁移受原子技能瓶颈限制：论文发现不会开柜门就学不会放物入柜，可结合技能库分解，对失败的子技能做定向真机示范或强化学习补短板。第四，评估协议偏弱：每任务 5 次试次的置信区间很宽，建议增加试次并报告 bootstrap 区间，另设从未见过的任务类型做零样本测试以检验真实泛化。第五，动作解码器 $N$ 步去噪可换一致性蒸馏或少步采样进一步压延迟，缩小与 π0.5 的差距。
未来方向
作者与延伸方向。其一，数据规模化：论文已证明更多视频（RoboCasa365 原子任务子集）与更强骨干（5B 到 14B 提升 13.2 个百分点）能转化为更强控制，下一步是把第一阶段蒸馏放到互联网级无标注视频上，验证操作预训练是否也有规模定律。其二，与 VLA 融合：把预测性视觉表征接入 VLA 的动作专家，兼取视频动态先验与语言语义先验，弥补两类范式各自的短板。其三，长时程规划：当前动作视野 32 步、视频 4 倍下采样为每块 9 帧，可在表征层面想象多步后果再做层级决策。其四，持续学习：利用仅微调编码器即可学新任务（每任务约 10 分钟、10 条视频）的性质，构建在线任务扩展与防遗忘机制。其五，理论分析：解释为何显式蒸馏比纯生成正则更能保留控制相关信息，可用信息瓶颈或探针几何建模。其六，把跨本体视频迁移扩展到更多机器人形态，迈向通用的操作基础模型。
复现评估
复现条件较好但算力门槛不低。代码已开源，项目主页提供演示与说明；视频骨干是公开的 Wan2.2-5B 与 Wan2.2-A14B 高噪专家，动作解码器为 1B DiT；LIBERO、RoboCasa-Kitchen（每任务 50 条演示）、DROID 数据集均公开，真机对比用的 π0.5-DROID 与 DreamZero-DROID 也有公开 checkpoint，可对照复测。难点在于：14B 骨干的蒸馏训练与推理需要 H200 级多卡 GPU，论文未披露总 GPU 时数；真机实验需要 Franka/DROID 硬件与采集成本，双臂 YAM 用 ABC-130k 的 100 小时过滤子集，普通实验室难以复刻；蒸馏层对 $(i,j)$、时间步 $t_d$、投影头结构等关键超参需查附录 A/B。建议只有模拟条件的团队先用 5B 骨干在 LIBERO 与 RoboCasa（5B 为 58.5%、14B 为 71.7%）上复现 98.6% 与消融趋势，再考虑扩展到真机。
论文图表
折叠手套、把杯中物倒入平底锅、螺栓入碗、帽子挂上三脚架四个任务的成功执行连续帧，涵盖形变物体操作与多阶段连续重排，正是 DreamZero 全部试次失败的任务类型。
定性展示模型在困难任务上的实际执行质量，帮助理解定量优势来源于不依赖可能出错的视频预测。
两组成功执行帧序列：(a) 微波炉解冻任务，依次完成开门、把容器放进微波炉、关门、开机四个子目标；(b) 罐子入篮任务，依次取罐、放入篮中、提起篮子。
定性证明从视频学到的复合任务知识真的能转化为长时序、多子目标的物理执行。