← 返回 2026-04-03

视频模型早期即推理:利用计划承诺求解迷宫 Video Models Reason Early: Exploiting Plan Commitment for Maze Solving

Kaleb Newman, Tyler Zhu, Olga Russakovsky 📅 2026-03-31 👍 14 2026-07-13 08:36
推理时计算 早期计划承诺 视频扩散模型 迷宫求解 链式生成

视频扩散模型在前几步去噪就锁定路径,由此提出 ChEaP,把长程迷宫准确率从 7% 拉到 67%。

前置知识

视频扩散模型

视频扩散模型通过迭代去噪过程从随机噪声生成时空一致的视频。训练阶段学习预测速度场或噪声,推理时按预定义 schedule 进行 T 步去噪(如 Wan2.2-14B 用 T=40 步)。本文使用的模型接受 image+text 条件,能在保持迷宫布局固定的前提下生成 agent 运动轨迹。

理解去噪是按时间步逐级展开的,是理解「早期计划承诺」现象的前提——只有知道每一步可以解码出中间预测,才能讨论 plan 何时定型。

Flow Matching(流匹配)

Flow Matching 是 DDPM 之外的另一类连续时间生成范式。训练时构造插值样本 $x_t = (1-t)x_0 + t\epsilon$,让网络 $v_\theta$ 预测速度 $\frac{dx_t}{dt}=\epsilon-x_0$。关键性质是任意中间步的 $\hat{x}_0^{(t)} = x_t - t\cdot v_\theta(x_t, t)$,即可以从部分去噪状态恢复出「对最终输出的当前最佳估计」。

本文所有早期预测、轨迹收敛量化和 verifier 评分都建立在能从 $x_t$ 解码出 $\hat{x}_0^{(t)}$ 这一公式之上,是实验的数学锚点。

推理时计算扩展(Test-Time Scaling)

不重新训练模型,通过在推理阶段投入更多算力(采样更多候选、做更多搜索步、使用更强 verifier)来提升输出质量。LLM 中以 o1/ToT 为代表,扩散模型中已衍生出 best-of-N、Feynman-Kac 粒子重采样、树搜索+MCMC、噪声轨迹优化等流派。

本文属于扩散模型的推理时扩展范畴,必须先理解已有 best-of-N 的局限性(全去噪每条候选),才能体会 EPBS「早筛少精修」的设计动机。

束搜索(Beam Search)

在每个决策步骤保留 top-K 最优候选而非单一贪心解的搜索策略。本文 EPBS 在去噪层面类比 beam search:τ 步部分去噪相当于「决策点」,verifier 评分相当于「打分函数」,top-K 继续完整去噪相当于「扩展」。

EPBS 的算法 1 直接借鉴了 beam search 的剪枝范式,是理解 EPBS 比 best-of-N 多探索约 7 倍候选的逻辑入口。

BFS 求解迷宫与 Pearson 相关分析

宽度优先搜索能在网格迷宫上求出最短/最远路径的精确解,用于自动验证和难度的结构归因。本文用 ground-truth 路径长度、终点距离、湖面密度等结构特征与模型成功率做 Pearson 相关分析,从而分离「路径长度主导难度」这一现象。

本文「12 步失败悬崖」和「路径长度是 r=-0.81 的主导因素」这些定量结论,完全建立在 BFS 给出的精确解路径之上。

研究动机

Wan2.2-14B 和 HunyuanVideo-1.5 这类视频扩散模型已经被发现能零样本地解迷宫、做对称推理,但学界对这些能力如何在去噪过程中涌现几乎一无所知。已有的视频推理工作停留在输出层面报告结果,例如 VR-Bench 显示 best-of-N 在 10 个 seed 时只能带来 10-20% 的提升并迅速 plateau,长程迷宫(>12 步)即便无限采样也几乎全部失败——这意味着障碍不在算力不够,而是模型存在结构性的「单次生成视野瓶颈」。同时 He et al. 通过 fine-tuning 把模型变成 image-to-image reasoner 来突破视野限制,但代价是必须重新训练。本文关注的核心问题是:模型在去噪的哪一步锁定了最终路径?早期是否能可靠预判成败?长程任务究竟为何失败?

本文的目标是本文设定四个递进目标:(1) 量化视频扩散模型何时在去噪过程中确定运动计划;(2) 找出早期信号能否预测最终成功;(3) 拆解失败模式并定位任务结构特征与难度的因果关系;(4) 基于发现设计完全免训练的测试时推理方法,在 Wan2.2-14B 和 HunyuanVideo-1.5 上把长程迷宫准确率提升一个数量级。最终把这些发现凝结为一个名叫 ChEaP 的方法(Chaining with Early Planning)。

与已有工作不同的是,已有推理时扩散方法(Feynman-Kac 粒子重采样、噪声轨迹优化、树搜索+MCMC)把扩散过程当作黑盒,按时间步均匀分配计算,没有利用「plan 在前 5-15 步就定型」这一结构特性。VR-Bench 等评测只报最终帧 pass rate,无法解释为什么 brute-force 采样会 plateau。He et al. 的 image-to-image fine-tuning 又引入训练成本。本文恰好填住这条缝:不动模型权重,定量描述「早期计划承诺」现象,并据此把计算预算从「全部去噪」重分配到「早期多探索+仅完整去噪 top-K」。这把传统 best-of-N 采样的「少探索多精修」反转为「多探索少精修」,同时通过链式生成把单次生成视野从 12 步扩展到 20+ 步。

核心方法

整体方法叫 ChEaP(Chaining with Early Planning),由两个互补组件构成。第一个组件是 EPBS(Early Planning Beam Search):给定预算 $B$ 个 NFE,先对 $N = \lceil(B - KT/\tau)\rceil + K$ 个随机 seed 各做 τ 步部分去噪(τ=5 对小迷宫、τ=10∼15 对大迷宫),从中间 $\hat{x}_0^{(\tau)}$ 解码并用 verifier 打分,只对 top-K seed 跑完剩余去噪。直觉是:plan 在前 5-15 步就定型了,与其把算力花在注定失败的精细化上,不如多采样几个种子、看谁起手就好。第二个组件是 Chaining:单次生成最多覆盖约 12 步轨迹,对长程任务,把上一次成功生成的最后一帧作为下一轮的 conditioning image,最大链深 D=3,把单次视野扩展到 20+ 步。

EPBS 与已有推理时扩展方法的本质区别有三:(1) 显式利用中间预测——把 $\hat{x}_0^{(t)}$ 当作「早期轨迹」对象来观察和评分,而不是把去噪当黑盒;(2) 非均匀分配计算——前期花少量步(τ)筛选大量 seed,后期只对 top-K 跑完 T−τ 步,把「精修」换成「探索」;(3) verifier 用特权信息——直接读 agent、goal、障碍单元位置来算 confidence,省去训练额外评分模型的成本。Chaining 则把「分而治之」显式编码到 inference loop 里:上一轮的 last frame 自然充当下一轮的 conditioning,不需要任何额外训练或外部记忆。

方法步骤详情

完整流程是 (1) 采样 N 个随机 seed;(2) 对每个 seed 跑 τ 步部分去噪,用 VAE 把 $\hat{x}_0^{(\tau)}$ 解码到像素空间;(3) 调用轨迹提取管线(基于 SAM2 分割 agent 像素)得到候选轨迹 $T^{(\tau)}$;(4) Verifier 评分:跟踪 agent 在每一帧的位置,构造 confidence = $\sum_t \mathbb{1}\{\text{forward to goal}\} - \alpha\sum_t \mathbb{1}\{\text{in obstacle}\}$,选 top-K;(5) 对 top-K seed 继续去噪到 t=0,再做一次 trajectory 提取和成功判断(reach goal + no constraint violation + no degenerate);(6) 若成功且仍有进度空间,取最终帧作为下一轮 conditioning image,回到 (1);(7) 最多迭代 D=3 次。Verifier 仅需要 agent、goal、obstacle 的位置信息——在 2D 迷宫设置下这完全可观察,因此 verifier 不需要额外训练。

技术新颖性

技术新颖性体现在三个层面。概念上,首次在视频扩散模型上定量描述「早期计划承诺」,并证明推理多样性的主要来源是 seed 而非去噪路径(同一 seed 的 refinement 分支轨迹多样性 ≤ 25%,而不同 seed 之间达 68%)。方法上,把「早筛+少精修」作为通用范式替代传统 best-of-N,配合链式生成把「生成视野瓶颈」显式拆开。诊断上,提出三分类失败模式(constraint violation / horizon-limited / degenerate),并揭示 Wan 与 HunyuanVideo 的失败分布差异——前者从小尺寸的 horizon-limited 迁移到大尺寸的 constraint-dominated,后者因 step distillation 在所有尺寸上以约束违反为主,为后续模型训练提供明确靶点。

Overview of ChEaP
Fig. 2: Overview of ChEaP

实验结果

本文给出五组核心数字证据。第一,早期收敛性:在 4×4 Frozen Lake 上 Wan2.2-14B 在去噪 step=5 时已收敛到最终轨迹的 93%(cosine similarity),step=10 接近完美,验证 plan 在前 1/4 去噪中定型。第二,多样性来源:同一 seed refinement 分支的轨迹多样性最多 25%,而不同 seed 之间达 68%,说明推理多样性来自 seed 而非去噪路径。第三,难度主因:8×8 迷宫上路径长度与成功率的 Pearson 相关 r=-0.81,10×10 上 r=-0.79,而障碍密度 |r|<0.05;路径超过 12 步出现失败悬崖,从 13 步往后准确率跌至 10% 以下。第四,EPBS 效率:Wan2.2-14B 上 EPBS 用 120 NFEs 即可达到 best-of-N 用 400 NFEs 的水平(3.3× 削减),在 size 6 Frozen Lake 上把 pass@2 从 BoN 的 24.4% 拉到 42.3%。第五,ChEaP 突破视野瓶颈:Wan2.2 在路径长 10-13 步的迷宫上 BoN 仅 7.3%、EPBS 16.4%、ChEaP 67.3%,整体在 Frozen Lake 平均提升 11.9 分;HunyuanVideo 在 Frozen Lake size 4 上 pass@2 从 BoN 38.2% 提升到 ChEaP 60.5%。

Verifier reliability
Table 1: Verifier reliability
ChEaP substantially improves maze performance
Table 3: ChEaP substantially improves maze performance
Early plans stay consistent
Fig. 3: Early plans stay consistent
Stepwise refinement
Fig. 4: Stepwise refinement
EPBS finds solutions much more efficiently than best-of-N
Fig. 5: EPBS finds solutions much more efficiently than best-of-N
EPBS fails beyond the single-generation horizon
Fig. 6: EPBS fails beyond the single-generation horizon
Chaining extends reasoning beyond the single-generation horizon
Fig. 7: Chaining extends reasoning beyond the single-generation horizon
Failure mode comparison
Fig. 8: Failure mode comparison
查看结构化数据
任务指标本文基线提升
Frozen Lake 6×6 pass@2 (Wan2.2-14B) pass@2 88.5% (ChEaP @ 1200 NFEs) 43.6% (BoN @ 400 NFEs) +44.9 绝对百分点,约 2.03×
Frozen Lake 8×8 pass@2 (Wan2.2-14B) pass@2 46.8% (ChEaP @ 1200 NFEs) 22.1% (BoN @ 400 NFEs) +24.7 绝对百分点,约 2.12×
Frozen Lake 10×10 pass@2 (Wan2.2-14B) pass@2 22.5% (ChEaP @ 1200 NFEs) 9.9% (BoN @ 400 NFEs) +12.6 绝对百分点,约 2.27×
VR-Bench Hard pass@2 (Wan2.2-14B) pass@2 25.0% (ChEaP @ 1200 NFEs) 10.0% (BoN @ 400 NFEs) +15.0 绝对百分点,2.5×
Frozen Lake 4×4 pass@2 (HunyuanVideo-1.5) pass@2 60.5% (ChEaP @ 240 NFEs) 38.2% (BoN @ 80 NFEs) +22.3 绝对百分点,约 1.58×
VR-Bench Easy pass@2 (Wan2.2-14B) pass@2 72.0% (ChEaP @ 1200 NFEs) 56.0% (BoN @ 400 NFEs) +16.0 绝对百分点,约 1.29×
NFE 效率 (Wan2.2-14B Frozen Lake avg) 等效 pass@2 所需 NFE 120 NFEs (EPBS) 400 NFEs (BoN) 3.3× NFE 削减,平均提升 +11.9 分

局限与改进

作者明确承认四点:(1) NFE 不是完整成本指标——每个 $\hat{x}_0$ probe 需要 VAE decode(约 1.5 FE 墙钟时间),因此 EPBS 的实际加速比低于 NFE 比;(2) verifier 依赖特权信息(agent、goal、obstacle 位置),这在 2D 迷宫可观察,迁移到通用视频任务困难;(3) 仅在迷宫任务上验证,未证明非空间推理模态(如对话、故事生成)是否同样存在早期承诺;(4) Chaining 最深 D=3 限制了视野扩展上限,14+ 步任务 EPBS 2.4% 提升到 ChEaP 仅 14.6%,累积误差显著。我自己的额外观察:(5) verifier 的 confidence 公式对 goal progress 过于宽松,模型可以作弊——把 gift 平移到 agent 旁边就被误判为进展(Fig. 9 现象);(6) 整套方法以模型本身已经具备局部规划能力为前提,对完全不会规划的任务无效;(7) 评测指标依赖 SAM2 做 trajectory extraction,SAM2 自身的跟踪失败会污染 success 判断;(8) 数据集仅 480+ 迷宫,没有覆盖动态障碍、3D 场景或非网格拓扑。

独立分析的弱点

本文有四点独立可观察的弱点,每点都有具体改进方向。第一,verifier 任务特化:规则化的 confidence 函数只在 2D 网格迷宫有效,无法迁移到 3D 或物理推理;改进方向是用 VLM 替代规则 verifier,或学一个轻量 verifier,捕捉「结构满足」而非「距离减少」。第二,链深限制过严:D=3 的硬上限让超长任务(≥14 步)收益骤降;改进方向是引入 lookahead 规划或学一个「是否继续 chain」的判别器,甚至把 chain 升级为 tree search 允许回溯。第三,作弊未防御:Fig. 9 显示模型在 horizon 压力大时会移动 gift 或复制 agent,verifier 仍然给高分;改进方向是加一个结构验证子步骤(例如比对生成视频的 obstacle 位置与 conditioning image),把「轨迹合法但环境被改」判为失败。第四,没有探索 plan 编辑:既然 early plan 已经在 step=5 可见,是否可以通过 text prompt 或 mask 来引导修改早期 plan,从而挽救失败 seed?本文完全没有探索这条路径,是显著的留白。

未来方向

作者明确点出三个方向:(1) 把早期承诺与视野限制的发现扩展到非空间推理模态(对话、故事、代码);(2) 训练更长 native context 的视频模型或学 pivot;(3) 把「早期承诺」作为训练信号(如加大早期步骤的 loss 权重),主动鼓励模型在早期就稳定 plan。基于成果我补充四条:(4) 把 EPBS 的「早筛」范式与 RL post-training 结合,用 verifier 当 reward,让模型天然学会「先想清楚再精修」;(5) 探索 plan 的可编辑性——是否可以用 text 或 layout 在 step=5 强行修改 plan;(6) 把链式生成从固定 chain 升级为自适应 chain,根据每步进度动态决定是否继续;(7) 研究 verifier 与模型的对抗关系:当 verifier 知道模型会作弊时,能否反推出更难作弊的 verifier。

复现评估

复现门槛中等偏低。模型层面完全使用公开的 Wan2.2-14B 和 HunyuanVideo-1.5 Step Distilled,配合标准的 image+text-to-video 流程,无需任何额外训练。数据集层面,Frozen Lake 与 VR-Bench 都是公开可控的网格环境,可以脚本生成任意数量的迷宫(论文用到 480+),BFS 提供精确解用于自动验证。算力层面是主要瓶颈:Wan2.2-14B 单次生成就需 40 NFE + VAE decode + SAM2 trajectory extraction,在 8×A100 或同等 GPU 上复现一次完整 sweep 估计需要数百 GPU 小时。代码层面,论文给出项目页 video-maze-reasoning.github.io 但正文未明确承诺开源代码与 verifier 实现细节;supp. A.3 提到 verifier 的具体 confidence 公式但未给完整超参,整体复现需要从论文与补充材料自行重建。verifier 的随机 seed 选择、VAE decode 的精度、τ 与 K 的 grid search 等超参也对结果敏感,建议先在小 subset 上对齐再全量跑。