从朗之万视角重新审视扩散模型

用朗之万恒等映射统一扩散模型的VAE/score/flow三大视角

前置知识

朗之万动力学 (Langevin dynamics)

形如 $d\mathbf{x}_t = g(t)\nabla_{\mathbf{x}}\log p\,dt + \sqrt{2g(t)}dW_t$ 的随机微分方程。目标分布 $p$ 是 stationary distribution,样本必收敛到 $p$,是 Monte Carlo 采样经典手段。

论文核心观察是'朗之万是分布上恒等映射',所有 VAE/score/flow 的统一推导都建立在此性质之上,不读懂就理解不了第2节的 identity 图示。

分数函数 (score function) 与 score matching

对分布 $p(\mathbf{x})$ 定义 $s(\mathbf{x})=\nabla_{\mathbf{x}}\log p(\mathbf{x})$。Hyvärinen (2005) 给出只用样本估计 $\nabla\log p$ 而无需归一化常数的训练目标,这正是现代扩散模型的常用损失。

表6显示所有参数化下的 loss 最终都化归为分数函数估计,理解这条线索是看懂'flow matching 与 score matching 等价'的关键。

随机微分方程 (SDE) 与 Itô 公式

把 ODE 拓展为 $d\mathbf{x}=f\,dt+g\,dW_t$,含布朗运动 $dW_t\sim\mathcal{N}(0,dt)$。Itô 公式给 $dW^2=dt$,函数沿 SDE 演化多出 $\frac{1}{2}g^2\Delta F$ 项。

不理解 Itô 意义下 $dW_t^2=dt$ 就读不懂附录 A.2 Fokker-Planck 推导,也会卡在 $\sqrt{2}dW=dW^{(1)}+dW^{(2)}$ 方差分解上。

Fokker-Planck 方程

描述 SDE 概率密度 $p_t(\mathbf{x})$ 随时间演化的 PDE:$\partial_t p=-\partial_x[fp]+\frac{1}{2}g^2\partial_{xx}p$,漂移项来自连续性方程,扩散项来自布朗累积误差。

第5节与 A.3 用它推导 $KL(p_t\Vert q_t)$ 沿时间单调递减,推出式17的 score-based loss,是整篇'等价性'证明的核心数学工具。

变分自编码器 (VAE) 与 ELBO

用编码器 $q(\mathbf{z}\vert\mathbf{x})$ 把数据投到 latent,解码器 $p(\mathbf{x}\vert\mathbf{z})$ 重建,最大化 ELBO。decoder 至多 ELBO 最优近似等价,无严格保证。

论文第4节证明扩散 reverse 与 forward 形成严格先验-后验对 $q_T=p_0$,这是扩散在理论上优于普通 VAE 的关键依据。

Rectified Flow (整流流)

用 $\mathbf{x}_s=(1-s)\mathbf{x}_0+s\mathbf{x}_1$ 把数据与噪声线性插值,学速度场 $v_\theta$,损失 $\mathcal{L}=\mathbb{E}\|v_\theta-(\mathbf{x}_1-\mathbf{x}_0)\|^2$。

本文5节论证 rectified flow loss 与 VP score matching loss 完全等价,所谓'更简单'实为参数化选择而非数学简化,是论文四大核心问题之一。

研究动机

现有扩散教程从三种视角展开:VAE 视角把 forward 当 encoder、reverse 当 decoder,ELBO 为训练目标;score-based 视角把 forward-reverse 写成对偶 SDE、目标是 score matching;flow-based 视角把生成看成沿直线的速度场。三者数学等价但入门难度差异大:VAE 视角难解释为什么迭代去噪优于普通 VAE 一步 decoder;score-based 视角的 reverse 推导依赖 Kolmogorov 向后方程、数学门槛高;flow 视角的'直线'宣传易让人误以为 rectified flow 原理更简单、无视其在最大似然下与 score matching 的等价性。读者打通三视角需读 Luo 2022、Yang 2023 等多份综述,缺少一份系统性框架同时回答四个 why:(1) reverse 为何能从噪声生数据? (2) ODE 与 SDE 是否统一? (3) 扩散为何理论优于普通 VAE? (4) flow matching 为何与 score matching 等价?

本文的目标是本文把扩散模型的三大视角统一到一条直观的朗之万动力学主线上:(a) 把朗之万明确表达为'分布上的 identity operation'——它把 $p(\mathbf{x})$ 一个样本映射到同一分布另一独立样本;(b) 把 forward 与 reverse 刻画为同一个朗之万动力学的'拆解',使读者无须掌握 Kolmogorov 向后方程即可推导 reverse;(c) 给出 VP、VE-Karras、Rectified Flow 三种参数化的 forward/reverse SDE 与 Langevin 拆解的并排对比;(d) 在最大似然(等价于对 KL 沿时间积分)视角下推导统一 score-based loss,证明 DSM、SM、flow matching 最小化相同目标。本文为 ICLR 2026 Blogpost Track,定位教学价值为主。

与已有工作不同的是，现有综述类工作存在两个明显缺口。第一,大多把 VAE、score、flow 作为三个独立框架陈述,把等价性作为附注'它们都基于相同 SDE',本文则把等价性追溯到'它们都是某个朗之万动力学的不同拆法'——一个更细粒度的统一,让每一种新参数化都能在 $g(\tau)$ 与时间重参数化空间中被定位。第二,本文在论文级粒度上同时回答四大 why(反向如何反转、ODE/SDE 如何统一、为何优于 VAE、为何 FM 不更简单),多数综述要么只答前两个、要么只答后两个,缺少'一站式、把四大 why 放在同一推导链上'的文献。此外,论文附 A.1-A.4 四个可选附录,把 fokker-Planck、KL 衰减、DSM=SM 逐行展开,为复核推导提供完整路径。

核心方法

方法核心是把扩散模型建模为同一朗之万动力学的两种'拆解'。直观上,朗之万 SDE $d\mathbf{x}_\tau=s(\mathbf{x}_\tau,t)d\tau+\sqrt{2}dW_\tau$ 等价于'对 $\mathbf{x}_\tau\sim p_t$ 施加一次把样本映射到同一分布另一独立样本的恒等操作'——$p_t$ 是 stationary distribution。把高斯增量按方差等分拆成 $\sqrt{2}dW_\tau=dW_\tau^{(1)}+dW_\tau^{(2)}$,再把朗之万拆成 Forward(加噪)与 Reverse(去噪)两个独立 SDE。选不同 $g(\tau)$ 与时间重参数化,可把 VP、VE-Karras 与 Rectified Flow 统一,得表1/3/4 并排对比。表5 显示 $s=-\epsilon/\sqrt{1-\alpha_t}$ 与 $v=\epsilon-\mathbf{r}_0$ 把三种预测量还原到同一 score field。

核心创新在于把'扩散模型为什么有效'这一高难度问题转化为'朗之万是分布上恒等映射'这一简单事实。已有工作虽指出 VAE、score、flow 数学等价,但都是'由结果反推等价性':先各自推导训练目标,再证它们是同一 ELBO 或 score loss 的不同参数化。本文则'由源推出等价性':先定义对 $p_t(\mathbf{x})$ 的朗之万,再显式写在不同 $g(\tau)$ 下如何自然得到 VP/VE-Karras/Rectified Flow 的 forward SDE,把三个看似不同的 SDE 视为'同一 identity 在不同 $g(\tau)$ 下的拆解'。由此得三条本质结论:(1) ODE-based(VP-ODE)与 SDE-based(VP-SDE)是同一朗之万在不同 $g(\tau)$ 下的两种 split;(2) diffusion 严格等于'先编码再解码'的精确配对,理论上优于 decoder-only 的普通 VAE;(3) rectified flow 的 velocity field 在最大似然训练目标下严格等价于 score。

方法步骤详情

方法六步:(1) 写朗之万 $d\mathbf{x}_\tau=s\,d\tau+\sqrt{2}dW_\tau$,$s=\nabla\log p_t$;(2) 把 $\sqrt{2}dW_\tau$ 拆为 $dW_\tau^{(1)}+dW_\tau^{(2)}$,重组 Forward/Reverse;(3) 取不同 $g(\tau)$ 选 SDE 族:VP、VE-Karras、RF(表3);(4) 表5 给 $v=\epsilon-\mathbf{r}_0$ 与 $s=-\epsilon/\sqrt{1-\alpha_t}$,flow matching 是 score 的另一参数化;(5) Fokker-Planck 得 $L_t=\frac{1}{2g^2}\mathbb{E}[\Vert\nabla\log p(\mathbf{x}_t\vert\mathbf{x}_0)-s_\theta\Vert^2]$;(6) 表6 显示 loss 在三参数化下化归 VP/VE-Karras/RF 三种 loss,A.4 证 DSM=SM。

技术新颖性

新颖性体现在三个层面。组织层面:把 VAE ≡ score ≡ flow 等价性从'结论'搬到'前提',建立'Langevin → identity → 时间拆解 → ODE/SDE split → 参数化 → score loss → DSM=SM=FM'的单线推导链,Table 7 把三参数化 forward/reverse/loss 并排陈列,让新扩散变体能被快速定位。数学层面:给多个此前语焉不详的关键步骤显式推导,包括 $\sqrt{2}dW=dW^{(1)}+dW^{(2)}$ 方差分解细节、reverse 与 forward 时间满足 $dt=-dt'$、用 Fokker-Planck 证 $d_t KL(p\Vert q)\leq 0$、以及在 A.4 完整证明 $L_{DSM}=L_{SM}+C$ ($C$ 不依赖 $s_\theta$)。视角层面:把'Langevin = 分布恒等映射'这一观察从'随机过程构造'前移到'分布不变性',使日后吸收 boundary condition、jump diffusion 等扩展机制时不必重新论证 SDE 良定义性。

**Figure 2**: Overview of forward processes across VP, VE-Karras, and rectified-flow parameterizations.

**Figure 3**: A forward diffusion step with step size Δt adds Gaussian noise to data.

**Figure 4**: The forward and reverse diffusion processes compose to reproduce Langevin dynamics.

**Figure 5**: Reverse trajectories under different parameterizations.

实验结果

本文无新实验,'结果'以理论新结论为主。(a) 表1/3/4 给 VP、VE-Karras、Rectified Flow 三参数化的 forward/reverse SDE 与 Langevin split 完整对照,表5 证 $v=\epsilon-\mathbf{r}_0$ 与 $s=-\epsilon/\sqrt{1-\alpha_t}$ 把三个目标统一到同一 score field;(b) 由 Fokker-Planck 与 $\int_0^L d_t KL\,dt=-KL(p_0\Vert q_0)$ 推导 $KL(p_0\Vert q_0)\leq \int_0^L \frac{1}{2g^2}\mathbb{E}\|s_p-s_q\|^2 dt$,得'最大似然=逐时间瞬时 score 匹配';(c) A.4 证 $L_{DSM}=L_{SM}+C$,$C$ 不依赖 $s_\theta$;(d) 论证'扩散优于普通 VAE':forward/reverse 形成 exact prior-posterior 对 $q_T=p_0$;(e) Table 7 提供快速索引工具。

**Table 1**: Forward processes across model parameterizations.

**Table 2**: Conversion between forward-process variable parameterizations.

**Table 3**: Langevin split of different model types.

**Table 4**: Reverse diffusion processes across model types.

**Table 5**: Conversion between model prediction.

**Table 6**: Training targets and losses under different parameterizations.

**Table 7**: Unified summary of forward process, reverse process, and objective.

**Figure 6**: Part of a forward–reverse diffusion cycle.

**Figure 7**: Each horizontal row shows a Langevin dynamics step that maps a forward sample xt to a new reverse sample x(T-t)'.

查看结构化数据

任务	指标	本文	基线	提升
VAE ↔ Score ↔ Flow 三大视角理论等价性证明	数学严格性 (推导链是否覆盖所有视角)	由 Langevin identity 单一出发点,经 ODE/SDE split、参数化转换、score-based loss 三步完整覆盖三种视角	已有综述各自独立推导各自的训练目标再声称等价,缺少单线推导链	把等价性从'结论'前移为'前提',读者只需理解 Langevin 这一种动力学即可同时得到三大视角的完整推导
ODE 与 SDE 框架的统一表述	覆盖参数化数 (forward SDE + reverse SDE + Langevin split 三栏并排)	Table 3 + Table 7 完整覆盖 VP-SDE、VP-ODE、VE-Karras、Rectified Flow 四种参数化,每种给出对应 Langevin 拆解	已有文献通常只在一篇论文内讨论 1-2 种参数化,跨论文需要读者自行对照	同一张表内并列展示,新提出的扩散变体可直接定位到它在 $g(\tau)$ 与参数化空间中的坐标
Rectified Flow 与最大似然的兼容性	目标函数等价性 (loss 在最小化意义上是否同解)	Table 6 给出 $L_{RF}=\frac{1-s}{s}\mathbb{E}\\|\epsilon-\mathbf{r}_0-v_\theta\\|^2$ 与 VP score loss 在 $\sum L_t$ 形式下等价	Rectified Flow 原论文声称'概念上更简单'但未给出与 score matching 的严格等价证明	通过显式把 $v=\epsilon-\mathbf{r}_0$ 代入,证明 rectified flow 是 score 的线性参数化
DSM 与 SM loss 等价性	最小化解一致性 (是否同解 + 常数差)	附录 A.4 通过逐项展开证明 $L_{DSM}(s_\theta)=L_{SM}(s_\theta)+C$($C$ 与 $s_\theta$ 无关),最小化子同为 $s_\theta^\star=\nabla\log p_t(\mathbf{x}_t)$	该等价性通常被直接断言,在 Vincent (2011) 之后少有完整重推导	对每个交叉项给出独立证明,处理 $\nabla\log p(\mathbf{x}_t\vert\mathbf{x}_0)$ 与 $\nabla\log p_t(\mathbf{x}_t)$ 通过分部积分交换的合理性条件
Forward-Reverse duality 与扩散优于普通 VAE 的论证	精确性 (terminal 分布是否严格等于数据分布)	式 11-12 给出 $q_T(\mathbf{x})=p_0(\mathbf{x})$ 的精确收敛,基于 $q_0=p_T$ 与 forward-reverse 时间互换 $t'=T-t$	普通 VAE 的 decoder 至多在 ELBO 最优时近似等价,无严格保证	给出一个比'扩散 SOTA 更强'更具理论力度的论证:扩散 reverse 严格等于 forward 的逆

局限与改进

本文局限性集中在四方面。第一,作为教学/综述类工作,不贡献新算法或 SOTA 结果,对工业界扩散落地工程师'用不上'。第二,论文偏理论视角,对条件生成(classifier-free guidance、controlnet)、latent diffusion、accelerated sampling(DDIM、DPM-Solver)等工程核心议题未深入展开。第三,全文假设'$\nabla_{\mathbf{x}}\log p_t(\mathbf{x})$ 可被 $s_\theta$ 完美近似',实践中神经网络估计的 score 存在系统偏差,这一偏差如何影响 duality 的'精确性'是作者未探讨的关键缺口。第四,建立在连续时间 SDE 之上,对离散化误差、高维 curse of dimensionality 与 $L_t$ 权重实际影响都没有量化;'flow matching 等价 score matching'需严格最大化似然而非其代理,实际差多少没有实证。

独立分析的弱点

基于独立分析,本文存在四点可改进。第一,论证'扩散优于普通 VAE'的 duality 建立在'训练到 ELBO 严格最优'假设上,实践中分数网络不可能学到真实 score $s^\star=\nabla\log p_t$,duality 退化为'近似度';改进方向是给误差传播界:若 $\|s_\theta-s^\star\|\leq\delta$,则 $\text{TV}(q_T,p_0)=O(\delta g^2 T)$。第二,论文把 ODE/SDE 对等处理,但推理代价差异大(SDE 每步多 $dW$ 采样),应明确'fast sampling 时选哪个 $g(\tau)$ 使 Langevin split 退化为 ODE';在表3 标注 inference FLOPs。第三,对'rectified flow 路径更 straight'只用'几何直觉'一句话带过,应借助 straightness $\int_0^1\mathbb{E}\|\dot{\mathbf{x}}_s-v_\theta\|^2 ds$ 给严格上界。第四,论文止步于 Langevin。

未来方向

未来研究方向沿三条线展开。第一条理论深度:论文证 $d_t KL\leq 0$ 与 $L_t=\frac{1}{2g^2}\mathbb{E}\|s_p-s_q\|^2$,但没给神经网络误差 $s_\theta-s^\star$ 下的传播界,可在 Langevin splitting 框架下证'若 KL 在 $t=0$ 被上界控制,则 $\text{TV}(q_T,p_0)$ 也可被同参数控制'。第二条方法拓展:把 Langevin splitting 推广到 (i) 条件生成——classifier-free guidance 解读为'Langevin 加 conditional score bias';(ii) latent diffusion——VAE encoder latent 上做 Langevin;(iii) discrete diffusion——Langevin 替换为 detailed balance 离散 Markov chain,Fokker-Planck 换为 master equation。第三条:Table 7 只覆盖三种参数化,可扩为可交互 tool。

复现评估

本文是纯理论/教学性论文,无具体实验与 benchmark,故'复现'需重新界定。一方面,全部数学推导都可独立复核:SDE 拆分(式4-5)、VP/VE/RF 的 forward SDE 与 Langevin 对应(表3)、score/$\epsilon$/$v$ 代数转换(表5)、Fokker-Planck 与 KL 衰减(附录 A.2-A.3)、DSM=SM(附录 A.4)——每位熟悉 Itô calculus 的研究生可在纸笔上独立验证,无需 GPU 或数据集。另一方面,所有引用外部工作(Kingma 2013 VAE、Hyvärinen 2005、Song 2021、Karras 2022 EDM、Lipman 2023 Rectified Flow、Liu 2023 等)都是公开文献,推导符号一致,便于交叉对照。论文附原始 ICLR Blogpost Track 博客链接,Fig.2 与 Fig.5 提供交互式 JavaScript 可视化。整体不涉及超参数调试与 GPU 小时数,复现难度低,代价是'对实际训练指导价值有限'。

从朗之万视角重新审视扩散模型 Rethinking the Diffusion Model from a Langevin Perspective