← 返回 2026-05-26

递归流匹配:跨尺度轨迹一致性的高效物理动力学预报 Recursive Flow Matching

Jiahe Huang, Sihan Xu, Sharvaree Vadgama, Rose Yu 📅 2026-05-26 👍 20 2026-07-13 08:36
PDE求解 快速采样 流匹配 物理动力学 生成式建模

递归流匹配通过多尺度轨迹一致性实现1-2步高精度物理仿真。

前置知识

流匹配 (Flow Matching)

一种仿真无关的生成范式,通过回归目标向量场 $v_t(x;\theta)$ 来学习连续归一化流。它在 $p_0$ 与 $p_1$ 间构造概率路径,用条件流匹配损失 $\mathcal{L}_{CFM}=\mathbb{E}\|v_t-\hat v_t\|^2$ 训练,避免训练时积分 ODE。

RecFM 的整体框架建立在 FM 之上,是它的直接扩展;不熟悉 FM 的 ODE 视角就无法理解 $\tau^{(i)}=t/\alpha^{(i)}$ 这种时间重参数化的意义。

自一致性 (Self-consistency)

一致性模型要求从任意中间点出发,沿流映射到达的终点都相同,即半群条件 $X_{u,t}(X_{s,u}(x))=X_{s,t}(x)$。在一步生成中训练一致性函数 $f_\theta(x_t,t)=x_1$,可让大步长 ODE 积分仍保持轨迹稳定。

RecFM 的核心交叉尺度损失 $\mathcal{L}_{cons}^{(i)}=\|\hat v^{(i)}-\alpha^{(i)}\hat v^{(1)}\|^2$ 正是自一致性在不同尺度上的推广,是论文的灵感来源。

时空动力学预报 (Spatiotemporal Forecasting)

指根据物理场在某一时刻的状态预测其未来多个时刻的演化,例如海表温度、流体速度场、声波压力场。在数据驱动范式下,常以 $\mathcal{X}_t\in\mathbb{R}^{H\times W\times C}$ 为基本单元做自回归或多步去噪生成。

RecFM 的应用场景就是这种多通道、高维、长时间跨度的物理场生成,所有实验都围绕三个时空基准 (SST/Navier-Stokes/Helmholtz) 展开。

ODE 截断误差 (Truncation Error)

在使用 Euler 或 Runge-Kutta 等数值格式求解 $\mathrm{d}\psi_t/\mathrm{d}t=v_\theta(\psi_t,t)$ 时,每一步引入的局部误差为 $O(h^2)$,整体 K 步累计为 $O(h)$。当 $h$ 变大(即少步生成)时误差急剧上升。

论文定理 3.1 证明 RecFM 通过降低 $\|a\|=\|\partial_t v_\theta+(\nabla_x v_\theta)v_\theta\|$ 来收紧误差上界,这是其为何能 1-2 步生成仍高精度的理论依据。

最佳输运路径 (Optimal Transport Path)

FM 中最常用的概率路径形式是 $x_t=(1-t)x_0+tx_1$,由此得到常速度目标 $u_t(x_t|x_0,x_1)=x_1-x_0$。这种线性插值形式让目标速度与 $t$ 无关,使训练非常稳定。

RecFM 在 OT 路径上引入 $\alpha$ 缩放,使 $\hat v^{(i)}$ 的目标变成 $\alpha^{(i)}(x_1-x_0)$;理解 OT 才能看懂 $v^*=x_1-x_0$ 这一基本量是如何被多尺度化的。

研究动机

现有物理动力学生成方法普遍面临速度-精度的两难权衡。基于扩散的方法(如 DDPM、MCVD、DYffusion)需要几十到上百次顺序去噪步骤,例如 DYffusion 对一个 Navier-Stokes rollout 要 4.67 秒、VideoPDE 要 19.75 秒,而传统数值求解器虽然精度高但计算代价昂贵,无法实时部署。流匹配 (FM) 通过直接学习常速度场大幅压缩了步骤数,但它本身仅用单一轨迹监督,少步 (1-4 步) 生成时误差会迅速累积,长程 rollout 不稳定。一致性模型和蒸馏方法 (Shortcut Diffusion、Rectified Flow 等) 试图进一步压缩步数,但在含高频细节的物理场上常常抹平谱信息,导致物理保真度下降。在 SST、海流 Helmholtz 等真实科学基准上,少步生成与多步求解器之间的精度差距一直没有被有效弥合。

本文的目标是本文的具体目标是提出一个生成式框架 RecFM,在不依赖显式 PDE 残差的前提下,把物理动力学的少步 (1-2 步) 生成精度提升到与多步求解器相当的水平,并在 SST、Navier-Stokes、Helmholtz Staircase 三个差异显著的基准上同时刷新 CRPS、MSE、SSR 三项指标。作者希望最终能让复杂的科学仿真(如全球海温、湍流、声波散射)实现实时推理,节省一个数量级的计算预算。

与已有工作不同的是,RecFM 的独特切入角度是从物理直觉(理想壁反弹摆)中抽象出一种跨尺度的递归轨迹结构:让同一速度网络 $v_\theta(x,t,\alpha)$ 在同一个空间点 $x_t$ 上同时拟合 $D$ 条不同尺度的轨迹,它们之间满足 $\hat v^{(i+1)}=\alpha\hat v^{(i)}$。这既不同于一致性模型那种只在路径端点上做约束,也不同于蒸馏方法需要单独训练 student,而是把多尺度一致性直接编织到训练目标里,相当于在条件空间 $(x,t)$ 上做免费的数据增广。相比于 PBFM 等强依赖显式 PDE 残差的方法,RecFM 完全在数据空间工作,因而可以应用到 SST 这种无解析方程的现实气候数据上。

核心方法

RecFM 的整体思路是把流匹配从"单轨迹监督"扩展为"递归多轨迹监督"。给定数据点 $x_0\sim p_0$ 与噪声点 $x_1\sim p_1$,作者在标准 OT 路径 $x_t=(1-t)x_0+tx_1$ 上定义一族由 $\alpha^{(i)}=\alpha^{i-1}$ 缩放的递归轨迹,每条轨迹对应的归一化时间为 $\tau^{(i)}=t/\alpha^{(i)}\in[0,1]$,它们都在 $x_t$ 处相遇。一个共享的速度网络 $v_\theta(x,\tau,\alpha)$ 同时预测这 $D$ 条轨迹的速度,总损失是轨迹回归损失与跨尺度一致性损失的加权和 $\mathcal{L}_{total}=\sum_i\mathcal{L}_{traj}^{(i)}+\lambda\sum_{i\geq 2}\mathcal{L}_{cons}^{(i)}$。在推理时,无论单步 Euler 还是 $K$ 步迭代都用标准 ODE 求解器即可,因为训练已经把跨尺度一致性"印"进了网络参数。

与已有方法的本质区别在于:vanilla FM 只用 $(x_t,t)$ 一个条件点提供单个监督信号 $x_1-x_0$,所以网络在少步推理时只能依赖一次函数评估,缺乏梯度富集;一致性模型把不同 $t$ 之间互相约束,但只约束端点;RecFM 则在同一个 $(x_t,t)$ 上同时引入一族按 $\alpha$ 缩放的辅助轨迹作为额外监督,并通过 $\hat v^{(i+1)}=\alpha\hat v^{(i)}$ 强制它们之间的速度比例关系。这种"条件空间内的数据增广"既不需要额外数据,也不需要显式 PDE 信息,却能把每条轨迹的速度都作为可学习的几何结构,从而在定理 3.1 意义上减少 $\|\partial_t v_\theta\|$、降低 ODE 截断误差,使 1-2 步生成逼近多步求解器的精度。

方法步骤详情

训练共六步:(1) 采样 $x_0,x_1$ 及 $t,\alpha$;(2) 算共享点 $x_t=(1-t)x_0+tx_1$ 与主速度 $v^*=x_1-x_0$;(3) 对每条递归轨迹 $i$ 算 $\alpha^{(i)}=\alpha^{i-1}$、$\tau^{(i)}=t/\alpha^{(i)}$,调用共享速度网络 $v_\theta$ 得 $\hat v^{(i)}$;(4) 算回归损失与一致性损失两项;(5) 加权和 $\mathcal{L}_{total}$ 反向传播更新 $\theta$;(6) 推理时设 $\alpha=1$,单步 Euler 直接生成,$K$ 步则迭代应用同一网络。实际固定 $D=2$、$\lambda=1$ 取得最佳性价比。详细公式见 Algorithm 1。

技术新颖性

技术新颖性体现在三个层面。理论上,定理 3.1 把跨尺度一致性损失与 ODE 截断误差显式联系起来,证明了 $\mathcal{L}_{cons}$ 通过约束 $\|\partial_t v_\theta\|$ 收紧 K 步 Euler 误差上界 $\psi_1-\hat\psi_1\leq \tfrac{h}{2}\frac{e^L-1}{L}\sup_t\|a(\psi_t,t)\|$,给方法提供了收敛性背书;直觉上,把壁反弹摆的速度衰减律 $v^{(i+1)}=\alpha v^{(i)}$ 提炼为对一般 ODE 流的递归监督,是首个把这种"几何自相似"嵌入生成式训练的工作;工程上,RecFM 不依赖 PDE 残差、也不需要额外 student 网络,因此可以同时处理 SST 这种真实气候数据和 Helmholtz 这种解析 PDE,通用性显著优于 PBFM 等方法。

Comparison of flow matching paradigms. (a) Flow Matching (FM) learns a direct trajectory that transports samples from the data distribution ($x_0$) to the noise distribution ($x_1$). (b) Recursive Flow Matching (RecFM) augments this with recursively scaled trajectories (brown, blue, and red arrows) that intersect at shared spatial states ($x_t$), enabling cross-scale trajectory alignment and consistency training along the flow.
Figure 1: Comparison of flow matching paradigms. (a) Flow Matching (FM) learns a direct trajectory that transports samples from the data distribution ($x_0$) to the noise distribution ($x_1$). (b) Recursive Flow Matching (RecFM) augments this with recursively scaled trajectories (brown, blue, and red arrows) that intersect at shared spatial states ($x_t$), enabling cross-scale trajectory alignment and consistency training along the flow.

实验结果

三个时空基准上 RecFM 同时刷新精度与效率。Navier-Stokes 上 1-step RecFM 的 CRPS=0.031、MSE=6.4e-3、SSR=0.959,比 VideoPDE 误差降低约 6%;2-step 耗时 0.7353 秒,比 VideoPDE 的 19.75 秒快约 27×。Helmholtz 提升最显著:2-step RecFM 把 CRPS 从 0.026 降到 0.0027(约 10×)、MSE 从 5.6e-4 降到 2.7e-5(≈20×)。SST 上 2-step RecFM 以 CRPS=0.216、MSE=0.161 与 MCVD 持平,但推理比 MCVD 的 79.17 秒快 100×。相比 vanilla FM,RecFM 把 Navier-Stokes 与 Helmholtz 的 MSE 分别降低 15.8% 与 96%。Figure 4 显示 RecFM 训练 NFE 更少;Figure 3 展示 RecFM 重建出 Helmholtz 圆形波前而 VideoPDE 完全错失。Table 2 表明 $\lambda=1$ 为甜点。

Quantitative forecasting results for Sea Surface Temperature, Navier-Stokes Flow, and Helmholtz Staircase Equation. Lower values are better for MSE and CRPS, while the optimal SSR is 1. Best results in bold, second best underlined, third best in gray.
Table 1: Quantitative forecasting results for Sea Surface Temperature, Navier-Stokes Flow, and Helmholtz Staircase Equation. Lower values are better for MSE and CRPS, while the optimal SSR is 1. Best results in bold, second best underlined, third best in gray.
Ablation study on the effect of $\lambda$ for the Navier-Stokes equation using the 1-step model and 5-step model. Here $\lambda=0$ results in vanilla FM. Best results in bold.
Table 2: Ablation study on the effect of $\lambda$ for the Navier-Stokes equation using the 1-step model and 5-step model. Here $\lambda=0$ results in vanilla FM. Best results in bold.
Roll-out results of the Helmholtz Staircase equation. Visual comparison of Ground Truth against RecFM and VideoPDE (best-performed baseline) for two channels, with the bottom rows indicating absolute errors. Columns correspond to dataset timesteps. The variation observed at Step 48 is displayed in an enlarged view on the right.
Figure 3: Roll-out results of the Helmholtz Staircase equation. Visual comparison of Ground Truth against RecFM and VideoPDE (best-performed baseline) for two channels, with the bottom rows indicating absolute errors. Columns correspond to dataset timesteps. The variation observed at Step 48 is displayed in an enlarged view on the right.
Validation MSE versus NFE during training. RecFM converges faster than the diffusion-based model VideoPDE and maintains consistently lower validation error.
Figure 4: Validation MSE versus NFE during training. RecFM converges faster than the diffusion-based model VideoPDE and maintains consistently lower validation error.
查看结构化数据
任务指标本文基线提升
Navier-Stokes Flow 流体动力学预报 CRPS (越低越好) RecFM 1-step: 0.031;RecFM 2-step: 0.032 VideoPDE: 0.033;Vanilla FM: 0.036;DYffusion: 0.067 1-step RecFM 相比 VideoPDE 降低约 6%,相比 vanilla FM 降低约 14%
Navier-Stokes Flow 流体动力学预报 MSE (越低越好) RecFM 1-step: 6.4e-3;RecFM 2-step: 6.8e-3 VideoPDE: 6.8e-3;Vanilla FM: 7.6e-3;DYffusion: 0.022 1-step RecFM 相比 VideoPDE 降低约 6%,相比 vanilla FM 降低约 15.8%
Navier-Stokes Flow 流体动力学预报 单次 rollout 时间 RecFM 1-step: 0.4310s;RecFM 2-step: 0.7353s VideoPDE: 19.753s;Vanilla FM: 1.5202s;DYffusion: 4.6722s 1-step RecFM 比 VideoPDE 快约 46×,比 vanilla FM 快约 3.5×
Helmholtz Staircase 声波散射 CRPS (越低越好) RecFM 1-step: 0.0034;RecFM 2-step: 0.0027 VideoPDE: 0.026;Vanilla FM: 0.030;DYffusion: 0.144 2-step RecFM 比 VideoPDE 低约 10×,比 vanilla FM 低约 11×
Helmholtz Staircase 声波散射 MSE (越低越好) RecFM 1-step: 4.2e-5;RecFM 2-step: 2.7e-5 VideoPDE: 5.6e-4;Vanilla FM: 6.5e-4;DYffusion: 0.106 2-step RecFM 比 VideoPDE 低约 20×,比 vanilla FM 低约 24×
Sea Surface Temperature 海表温度 7 天预报 CRPS / MSE RecFM 2-step: CRPS=0.216, MSE=0.161 DYffusion: CRPS=0.224, MSE=0.173;MCVD: CRPS=0.216, MSE=0.161 与最佳基线持平但推理快 100×,并把 SSR 推到 1.004
Sea Surface Temperature 海表温度 7 天预报 SSR (越接近 1 越好) RecFM 2-step: 1.004;RecFM 1-step: 0.984 DYffusion: 1.033;MCVD: 0.926;VideoPDE: 0.746 2-step RecFM 在三个方法中最接近理想值 1,校准度最佳
Navier-Stokes 训练效率 (NFE vs Val MSE) 收敛所需的函数评估次数 RecFM 在同等 NFE 下 val MSE 全程低于 VideoPDE,并更快到达 plateau VideoPDE 收敛较慢且最终 val MSE 更高 Figure 4 显示训练阶段 NFE 利用效率明显提升

局限与改进

作者明确承认 RecFM 在两类任务上仍存在不足:第一,在随机性强的真实气候数据 SST 上,1-2 步生成带来的固有确定性使得概率预测难以充分发散,2-step RecFM 的 CRPS 仅与 MCVD 持平,并未像 Helmholtz 上那样拉开 10× 差距;第二,扩展到高复杂度真实视频仍未解决,自然视频中的语义和时序变化无法被简单的多尺度递归轨迹覆盖,附录 I 中 image generation 实验虽然显示潜力但远未达到 SOTA。本文的 Table 2 也暴露出超参数敏感性——$\lambda$ 从 1 跳到 $10^6$ 时 Navier-Stokes MSE 会从 6.4e-3 飙升到 0.268,说明一致性损失过强会反向破坏主目标,需要谨慎调参。此外 $D=2$ 的设定是经验选择,论文未在所有任务上系统比较 $D\geq 3$ 的代价收益,且对 noise schedule 的影响没有深入讨论。

独立分析的弱点

独立分析可指出几个隐含弱点。其一,RecFM 假设所有尺度轨迹共享同一个空间点 $x_t$ 并以恒定 $\alpha$ 缩放,但高维湍流中不同尺度对应不同物理过程(小尺度耗散 vs 大尺度输运),单一 $\alpha$ 难以刻画多尺度耦合,建议引入尺度依赖的局部化结构。其二,速度网络推理时强制 $\alpha=1$,训练时却采样 $\alpha\sim U(t,1)$,这种"训练-推理分布偏移"可能导致 1-step 精度反而不如 2-step(实验中也确实观察到 2-step Helmholtz MSE 更低)。其三,模型只在三种风格差异很大的数据上验证,没有涉及多物理场耦合场景(如反应-扩散-对流),也未与 ClimateBench 等气候专用基准对比,泛化边界仍不清晰。其四,Theorem 3.1 只给出误差上界而没有紧的下界,递归项对实际误差下降的贡献缺少严格量化。改进方向:自适应 $\alpha$ 采样、NeuralODE 残差正则、局部 PDE 守恒律软约束等。

未来方向

作者在文末给出了两条主线:把 RecFM 推广到自然视频和复杂真实动力学系统,以及探索其作为多物理场通用基础模型的潜力。基于实验结果还可延展出若干方向:(1) 把 $\alpha$ 改成可学习的逐尺度参数或与 diffusion-style noise schedule 结合,让 $\tau^{(i)}=t/\alpha^{(i)}$ 真正对齐物理时间尺度;(2) 与 foundation model 思路结合,把 RecFM 作为下游任务的 finetune 起点,例如在大规模气候模拟上预训练后在区域预报上微调;(3) 把跨尺度一致性损失推广到时空 transformer 上,引入 attention mask 让不同尺度只关注相应尺度的 token;(4) 探索 RecFM 与 Stochastic Interpolants、MeanFlow 等最近提出的平均速度场方法的关系,可能获得更紧的理论误差上界;(5) 与 RL 或控制结合,让 $\alpha$ 序列受外部 reward(如守恒律违反度)调控,进一步提升长程稳定性。

复现评估

论文在复现性方面提供了较完整的信息:算法 1 完整给出了训练循环、损失形式与超参($\lambda=1$, $D=2$),实验部分报告了 L40S GPU 上的推理时间和 ensemble 规模 $M=50$。数据集来自公开来源:SST 源自 NOAA OISSTv2,Navier-Stokes 与 Helmholtz 都复用了 DYffusion 与 The Well 的标准配置,三套数据均有现成下载渠道。但论文本身未在正文中给出官方代码仓库链接(仅在主页 jhhuangchloe.github.io/RecFM 提及项目页),模型架构细节放在 Appendix D,需要读者自行查阅;训练总 NFE、batch size、优化器设置等关键超参散落在附录,对外部复现团队来说需要额外的沟通成本。整体难度中等偏高,需要熟悉 DiT backbone、ODE 求解器和时空基准的评价协议,所需算力估计在单卡 L40S 数十小时量级。