轨迹链：通过图论规划解锁扩散模型的内在生成最优性 Chain-of-Trajectories: Unlocking the Intrinsic Generative Optimality of Diffusion Models via Graph-Theoretic Planning
引入Diffusion DNA和图论规划，将扩散模型从固定调度升级为动态System 2式规划
前置知识
扩散模型
扩散模型是一类生成模型，通过学习逐步将高斯噪声去噪恢复为数据的逆过程来生成样本。标准扩散模型定义了一个前向扩散过程，逐步向数据添加噪声直到变成纯高斯噪声，然后训练神经网络学习逆向过程从噪声恢复数据。采样时需要从纯噪声开始，按照预定义的时间步序列迭代去噪，每个时间步都要调用神经网络预测去噪方向。扩散模型的成功建立在随机微分方程或常微分方程的反向求解框架上，DDPM、DDIM、DPM-Solver等都是其重要变体。
本文的核心贡献是改进扩散模型的采样调度方式，理解扩散模型的基础原理对于理解为什么需要自适应轨迹规划至关重要。
System 1与System 2认知
心理学家Kahneman提出的双系统理论将人类认知分为两个模式：System 1是快速、直觉、自动化的反应，不消耗太多认知资源；System 2是缓慢、深思熟虑、需要投入注意力的推理过程。在AI领域，这个概念被用于区分不同的推理模式——像反射般的快速执行vs需要规划的复杂决策。大语言模型中的Chain-of-Thought和Tree-of-Thought就是引入System 2推理的典型例子，通过显式的中间推理步骤提升复杂任务的性能。
本文的核心隐喻就是将扩散模型从System 1式的固定调度升级为System 2式的深思熟虑规划，理解这个认知科学框架有助于把握论文的整体思想脉络。
状态维度诅咒
状态维度诅咒是指当问题的状态空间维度增加时，所需计算资源呈指数级增长的现象。在扩散模型中，每个时间步的状态都是一个高维向量，可能的状态组合数是天文数字，这使得在原始像素空间中进行显式的轨迹搜索变得不可行。Karras等人指出扩散过程的状态空间呈组合爆炸式增长，使得传统的基于搜索的规划算法在像素级空间中不可行且容易陷入局部最优。这是高维连续空间中规划算法面临的根本挑战。
这是本文要解决的核心挑战，理解为什么高维连续空间中的轨迹规划如此困难，才能体会作者提出的Diffusion DNA低维代理方案的巧妙之处。
有向无环图最短路径
有向无环图是一个没有有向环的有向图。在DAG中寻找从源节点到目标节点的最短路径是一个经典算法问题，可以用动态规划或拓扑排序高效解决。在本文中，作者将扩散采样的时间步序列建模为一个DAG，其中节点代表中间状态，边代表可能的时间步跳跃，边的权重由Diffusion DNA导出。最优采样轨迹就转化为在这个DAG上寻找最小成本路径的问题，这可以通过标准的图论算法高效求解。
图论规划是CoTj的核心技术手段，将原本在高维连续空间中不可行的轨迹优化问题转化为在低维离散图上的可解问题，理解DAG最短路径算法有助于掌握论文的方法框架。
研究动机
现有扩散模型都运行在反射式System 1模式下，受到固定的、内容无关的采样调度约束。这种刚性源于状态维度诅咒——高维噪声流形中可能状态的组合爆炸使得显式的轨迹规划变得不可行，导致系统性的计算资源错配。具体来说，标准扩散采样使用均匀分布的时间步序列，完全忽略了生成路径中的固有异质性。无论是早期的高阶求解器改进还是基于知识蒸馏的加速方法，都没有突破内容无关的静态调度范式，本质上仍然是用单一的固定策略处理所有生成场景，无法根据语义内容和生成难度动态调整计算资源分配。
本文的目标是本文的具体目标是将扩散模型从刚性的、调度驱动的System 1过程转变为图优化、规划引导的System 2框架，通过动态资源分配和结构化误差修正，推动生成模型朝着更可解释和深思熟虑的推理方向发展。具体而言，作者希望构建一个训练无关的框架，能够根据输入的具体语义内容和实时误差特征，动态重新配置全局生成路径，在固定计算预算下最大化输出质量，或者在无约束设置下自动调整轨迹长度以维持输出质量。最终目标是建立资源感知、基于规划的扩散建模新范式。
与已有工作不同的是，本文的独特切入角度是将认知科学中的System 2推理范式引入视觉生成领域，通过构建低维可规划的认知地图来解决高维连续视觉流形的规划难题。与现有方法的关键区别在于，大多数现有工作局限于提示级别的语义规划而非底层数值计算路径的全局优化，主流加速措施无论是知识蒸馏压缩、增强固定路径效率的高阶求解器，还是基于缓存的技术，都没有突破内容无关静态调度范式。CoTj代表了一个原则性尝试，为扩散模型配备预计算规划阶段，不同于迭代细化方法添加更多噪声并重新去噪，CoTj在承诺单个像素更新之前在DAG的抽象成本空间中进行潜在规划。
核心方法
CoTj的整体思路是通过引入Diffusion DNA这个低维度的结构性签名来表示生成过程中的误差修正难度分布，将其作为高维随机状态空间的计算代理，构建确定性的规划图。然后通过Predict-Plan-Execute范式实现动态轨迹规划：首先用一个轻量级预测器估计输入条件对应的Diffusion DNA；然后构建规划图并计算其最优路径；最后扩散模型沿着规划好的路径执行去噪。直觉上，Diffusion DNA就像每个生成任务的基因指纹，编码了在不同噪声尺度上恢复结构的难度模式。通过图论的最短路径搜索，CoTj能够找到最小作用路径，即在每个阶段选择最优的下一步跳跃，平衡局部修正成本与全局误差降低。
CoTj的核心创新点是Diffusion DNA和图论规划的结合。Diffusion DNA是一个低维度的签名，捕捉了生成阶段间误差修正难度的分布，它量化了每个时间步的单步重建误差。关键技术突破在于将高维随机演化映射到低维确定性图上，通过On-Manifold Correction假设，将轨迹优化从不可行的随机搜索转化为时间索引上的可解确定性优化。这与已有方法的本质区别在于，现有方法要么是被动反应式的局部调整，要么是盲执行式的全局压缩，而CoTj是主动前瞻式的全局规划。这种方法首次将扩散采样问题形式化为图论优化问题，为资源感知的扩散建模建立了新基础。
方法步骤详情
CoTj的方法分为四个主要步骤：第一步是Diffusion DNA计算，对于给定的生成条件，计算期望的随时间变化的重建难度，编码为低维Diffusion DNA。具体来说，在规范轨迹上计算每个时间步的单步重建误差作为内在误差上界。第二步是构建Super-DAG规划图，将所有可行的状态转移嵌入到一个稠密的逆向时间有向无环图中，采用Super-Node拓扑。图中包含Super-Source节点、Super-End节点和转移边。第三步是轨迹规划，通过最短路径搜索获取最优轨迹，在局部修正成本与全局误差降低之间取得平衡。第四步是执行和自适应，支持固定步数预算和自适应长度两种操作模式，在固定步数时全局优化选择时间步，在自适应长度时根据累积轨迹增益终止采样。
技术新颖性
CoTj的技术新颖性体现在多个层面：首先，它首次将扩散采样问题形式化为图论优化问题，将高维连续随机演化转化为结构化规划问题；其次，Diffusion DNA作为可计算的低维代理，直接克服了状态维度诅咒；再次，Predict-Plan-Execute范式首次被引入视觉生成领域，与机器人学中的最优控制理论相呼应；最后，CoTj揭示了不同模型的内在动力学结构差异，提供了诊断工具来暴露蒸馏或少步变体中的隐藏不稳定性。从理论角度看，CoTj的公式化与物理中的最小作用原理和最优控制理论产生共鸣，将生成视为最优传输问题，寻求最小化动能或传输成本的路径。
实验结果
实验结果显示CoTj在多个生成模型上都发现了上下文感知的轨迹，在减少冗余计算的同时提高了输出质量和稳定性。在文本到图像生成任务中，使用Qwen-Image模型，CoTj在50步设置下的GenEval总体得分从基线的0.85提升到0.88；在极端的10步设置下，从0.70提升到0.85，这个提升非常显著。对于蒸馏模型Z-Image-Turbo，CoTj在4步设置下GenEval得分从0.70提升到0.78，在2步设置下从0.58提升到0.77。在文本到视频任务中，使用Wan2.2模型生成49帧序列，CoTj在10步约束下实现了更优的成像质量和美学质量，同时保持了主体一致性和背景一致性。更有趣的是，CoTj揭示了不同模型的内在动力学结构差异。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| 文本到图像生成（组合推理） | GenEval总体得分 | 0.85（50步）/ 0.85（10步） | Qwen-Image基线 0.85（50步）/ 0.70（10步） | +0.00（50步）/ +0.15（10步） |
| 文本到图像生成（蒸馏模型） | GenEval总体得分 | 0.78（4步）/ 0.77（2步） | Z-Image-Turbo基线 0.70（4步）/ 0.58（2步） | +0.08（4步）/ +0.19（2步） |
| 文本到视频生成 | VBench成像质量 | 60.29（10步） | Wan2.2基线 59.81（10步） | +0.48 |
| 轨迹可达性（重构质量） | PSNR（dB） | 20.36（10步） | Euler基线 13.78（10步） | +6.58 |
| 规划 vs 求解器复杂度 | GenEval得分 | 0.626（1st-order求解器+CoTj规划） | 0.528（高阶UCGM求解器+固定调度） | +0.098 |
局限与改进
作者承认了一些局限性。首先，当前的DNA预测器是在固定数据集上训练的，其跨数据集和跨模态的泛化能力还需要进一步验证。其次，虽然CoTj展示了强大的跨模态适应性，但当前的实现主要针对静态视觉内容，对于复杂视频动力学的建模还不够完善。第三，DNA预测器的训练需要参考高质量去噪结果，这本身可能是一个计算开销较大的过程。基于观察，还存在一个潜在局限性是CoTj的规划依赖于预计算的DNA轨迹，如果输入的语义内容与训练数据分布相差很大，预测的DNA可能不准确。此外，当前方法主要针对单模态生成，对于多模态协同生成的场景还需要进一步研究。
独立分析的弱点
从独立分析的角度，我观察到CoTj存在几个可能的弱点。首先，DNA预测器的训练过程需要大量的DNA-嵌入对数据，对于新模型或新领域，这本身可能是一个不小的工程成本。改进方向可以是探索无监督的DNA发现方法，或者设计更少样本的few-shot学习策略。其次，当前的CoTj主要基于预计算的静态DNA规划，对于生成过程中的在线反馈没有充分利用，这限制了其处理意外偏离或局部最优的能力。改进方向可以是引入闭环控制机制，结合在线误差估计动态调整规划。第三，CoTj的图规划框架假设了On-Manifold Correction，在实际采样中solver的数值误差可能使状态显著偏离流形，此时规划的最优性可能受到影响。最后，对于实时性要求极高的应用，即使是0.073ms的DNA预测开销也可能成为瓶颈。
未来方向
作者提出的未来工作方向包括：将CoTj扩展到复杂视频动力学，整合在线反馈进行轨迹修正，以及探索跨模态的无监督Diffusion DNA发现。基于CoTj的成果，可以延伸出更多研究方向。首先，可以探索结合语义熵或运动阻力签名的扩展，通过联合建模静态保真度和动态复杂性，进一步加速视频生成同时保持连贯和物理合理的运动。其次，可以研究将CoTj与控制理论中的模型预测控制相结合，在生成过程中持续更新DNA预测和轨迹规划，实现真正的自适应生成。第三，可以探索Diffusion DNA在模型诊断和比较之外的更广泛应用，例如用于生成质量预测、异常检测或自动化模型选择。第四，可以研究将CoTj的规划框架与其他加速技术的协同优化，实现端到端的生成效率提升。
复现评估
CoTj的复现难度属于中等水平。论文提供了开源代码链接，这是一个积极因素。数据方面，论文使用了公开的PickScore数据集进行DNA预测器训练，该数据集包含25432个独特提示词。对于基础模型，论文使用了公开可用的Qwen-Image、Z-Image-Turbo、Wan2.2、SD3.5等，这些都可以通过Hugging Face获取。算力方面，DNA计算需要全参考去噪过程，这需要一定的GPU资源，但这是一次性计算。DNA预测器非常轻量，训练和推理开销都很小。图规划部分是确定性算法，不需要随机性，因此实验结果应该是可重现的。总的来说，如果有访问基础模型的权限和中等规模的GPU资源，复现论文的主要结果应该是可行的。主要挑战可能在于复现视频生成实验以及大规模统计分析。
论文图表
这张图展示了从固定调度到轨迹链的范式转变。上半部分比较了推理机制：标准扩散作为System 1过程，依赖固定的时间序列限制潜力；而CoTj通过CoTj引导的最优规划器引入System 2方法，生成针对输入优化的时间序列。下半部分展示了跨模态的真实世界比较：在文本到图像生成中，CoTj在有限计算资源下实现了更优的视觉效果；在文本到视频任务中，CoTj显著增强了运动动态和真实感，同时保持了高空间质量。
这张图对理解论文非常重要，因为它直观地展示了CoTj的核心思想——从System 1到System 2的范式转变，以及在真实任务中的实际效果。上半部分的对比图帮助读者快速理解CoTj与传统方法的根本区别，下半部分的视觉对比为论文宣称的性能提升提供了直观证据。
这张图展示了揭示内在Diffusion DNA的熵发散模式。曲线揭示了不同输入之间的异构误差衰减动态。结构约束的低熵视觉目标表现出快速稳定化，而抽象和视觉不确定的构图导致延长的精化阶段。阴影区域说明了由熵复杂性引起的额外计算负担，强调生成难度主要由内在视觉不确定性而非表面级提示词属性控制。
这张图对理解Diffusion DNA的概念和动机非常重要。它直观地展示了不同输入的生成难度差异，以及为什么需要自适应的资源分配。阴影区域特别有力地说明了复杂内容需要更多计算资源的原因，这为CoTj的System 2式规划提供了直观的动机。