万物皆可缩放：尺度不变扩散与连续超分辨率 Everything at Every Scale: Scale-Invariant Diffusion with Continuous Super-Resolution

方法步骤包括：首先，计算数据集的径向平均方差功率谱$S_0(k)$，用幂律$S_0(k) = C(k^2 + k_0^2)^{-a}$拟合，实验验证CIFAR-10、ImageNet-128和ImageNet-256都遵循$k^{-2}$衰减。其次，在频域定义连续前向边际$X(k, t) = e^{-k^2\lambda(t)/2} \odot X_0(k) + \sqrt{1-e^{-k^2\lambda(t)}} \odot \sqrt{S_0(k)} \epsilon_t$，其中$\odot$是Hadamard乘积，$\lambda(t)$是标量调度函数随$t$单调递增，$\epsilon_t \sim N(0, I)$。当$t$增长时，$e^{-k^2\lambda(t)/2}$在频域变窄，高频模在低频之前被衰减。噪声前因子使前向边际在每个$t$保持每模协方差$S_0(k)$，并在信号项消失时收敛到$N(0, S_0(k))$。在像素空间，相同过程对信号进行高斯核卷积并添加空间相关噪声，其相关长度随$t$增长。第三，使用DDPM离散化，设$\bar{\alpha}_n(k) = e^{-k^2\lambda_n}$，则$X_n(k) = \sqrt{\bar{\alpha}_n} \odot X_0(k) + \sqrt{1-\bar{\alpha}_n} \odot \sqrt{S_0(k)} \epsilon_n$。由于所有协方差在频域对角，反向后验是高斯的：$q(X_{n-1}|X_n, X_0) = N(\mu_q, S_0\tilde{\beta}_n)$，其中$\tilde{\beta}_n = \beta_n(1-\bar{\alpha}_{n-1})/(1-\bar{\alpha}_n)$，$\mu_q(n, X_n) = (X_n/\sqrt{\alpha}_n) - (\beta_n/\sqrt{1-\bar{\alpha}_n})\sqrt{S_0}\epsilon_n$。祖先采样通过$X_{n-1} = \mu_q(n, X_n) + \sqrt{S_0\tilde{\beta}_n} \odot \epsilon_n$进行。第四，训练使用$\epsilon$-预测网络，损失为$L = E_{n,X_0,\epsilon}[\|\epsilon - \epsilon_\theta(n, X_n)\|_2^2]$。实现细节：很小的$\alpha_n(k)$值可能导致高频模的反向更新过大，因此在祖先采样中将其下限设为$10^{-6}$；零模因为高斯信号滤波未被触及，因此引入低频截止$k_c$，对$\|k\| \leq k_c$的模使用$max(\|k\|, k_c)$作为调度。第五，评估两种调度：对数线性调度$\lambda(t) = t \cdot 10^{\lambda_i + (\lambda_f - \lambda_i)t}$在对数尺度上大致均匀移动截止频率；线性调度$\lambda(t) = \theta t/(\lambda_f(1-t) + \lambda_i)^2$在线性尺度上大致均匀移动截止频率。参数$\lambda_i$主要设置高频早期行为，$\lambda_f$、$k_c$和$\theta$主要设置低频晚期行为。最后，对于超分辨率，通过信噪比$SNR_n(k) = \bar{\alpha}_n(k)/(1-\bar{\alpha}_n(k))$选择反向起始时间步，阈值0.1对应在频域应用有效低通滤波，低于有效分辨率截止的模保留信号而高频模被衰减并主导噪声。从对应低分辨率输入的所选时间步的前向边际开始采样，然后逆转到$t_0$，将超分辨率转化为部分反向扩散问题

技术新颖性体现在多个方面：首先，首次在频域设计频率依赖的衰减前向过程，使尺度成为扩散动力学的显式坐标。其次，噪声协方差匹配数据集频谱$S_0(k)$而非白噪声，这使模型学习移除统计上类似其学习生成的数据的噪声。第三，统一无条件和连续超分辨率到单一反向过程，仅通过改变起始时间步，无需条件分支、无分类器引导或每个缩放因子的重新训练。第四，提出有效分辨率协议，通过SNR阈值定义超分辨率的起始时间步，这与标准bicubic下-上采样在MSE和PSNR上相当。第五，在科学数据集上评估尺度不变性，使用连接四点关联函数这一统计物理可观测量，而非仅依赖视觉质量，为自相似性提供超越感知质量的评估标准

独立分析的弱点包括：第一，无条件生成的低频瓶颈。作者观察到FID在训练早期达到最佳而IS持续改善，这表明低频重构是以物体为中心数据集的瓶颈。改进方向可以是改进架构以更好建模低频结构，或者引入显式的低频约束或先验。第二，采样效率。1000步祖先采样比一些先进采样器慢，改进方向包括开发针对模依赖调度的快速采样器，如ODE求解器、渐进蒸馏或一致性模型。第三，现实世界降质。当前超分辨率协议限于精确前向边缘分布，不适合真实世界的未知相机模糊、压缩伪影或噪声。改进方向包括学习真实世界降质的模型，或将本文尺度不变框架与逆问题方法结合。第四，调度参数敏感性。虽然方法对广泛调度范围稳健，但最佳性能需要调优四个参数，改进方向可以是自适应调度学习或自动化超参数搜索。第五，架构限制。模型使用现成NCSN++架构，可能不是频域操作最优，改进方向包括设计专门针对频域扩散的架构，如更有效地处理频率依赖的结构。第六，评估局限性。论文主要在合成数据集和理想条件评估，缺乏在真实世界图像上的广泛评估，改进方向包括在更多数据集和真实场景上评估。第七，理论理解。方法基于尺度不变性的类比，但缺乏严格的理论保证，改进方向包括提供尺度不变扩散的理论分析，如收敛保证或误差界

作者提出的未来工作包括：开发快速采样器或针对模依赖调度的定制求解器；改进无条件生成的低频结构生成，稳定全局结构而不牺牲细粒度细节；扩展到现实世界降质如未知相机和压缩管道；将Ising实验扩展到额外物理系统和高阶可观测量；设计针对本文模型的新架构以显著提高性能。基于成果可延伸的未来工作包括：将尺度不变扩散扩展到其他模态如视频、3D数据或音频，这些模态也展现尺度不变性；探索尺度不变扩散与其他生成框架的结合，如GAN或VAE；研究尺度不变扩散在科学计算中的应用，如多尺度物理模拟或反问题；开发自适应调度学习，自动从数据学习最优$\lambda(t)$；探索尺度不变扩散在分布外泛化或域适应中的应用，因为尺度不变性可能跨域共享；研究尺度不变扩散的连续极限和理论性质，如与重正化群流的形式化连接；开发评估尺度不变性的新指标，超越连接四点关联函数，可能包括高阶统计量或分形维度；探索尺度不变扩散在条件生成中的应用，如文本到图像或类别到图像，可能通过在特定尺度注入条件信息；研究尺度不变扩散的可解释性和可控性，如理解不同频率成分对生成的贡献或选择性编辑特定尺度

复现评估方面，论文承诺代码和数据在GitHub公开：https://github.com/JazzyCH/SKILD。论文在附录中提供详细的超参数和计算细节，包括架构配置、调度参数、训练设置和评估协议。使用标准PyTorch框架和现成NCSN++架构，降低了复现门槛。数据集都是公开的：CIFAR-10、ImageNet、以及用Wolff集群算法自生成的临界Ising配置。论文提供具体实验设置细节，如使用50K生成样本评估CIFAR-10，使用ImageNet验证集随机3K图像子集评估超分辨率，使用1K样本评估Ising超分辨率。然而，论文未报告具体计算资源需求，如GPU小时数、硬件规格或训练时间，这增加了精确复现的难度。超分辨率协议使用精确前向边缘分布作为低分辨率输入，这可能需要额外的存储或计算来保存这些状态。论文在附录中提供额外实验细节和消融研究，增加了透明度。代码开源状态需要实际验证，但论文承诺的开放性总体支持复现。复现难度中等：方法概念清晰，实现细节充分，但调优调度参数可能需要经验，以及计算资源需求可能较高