← 返回 2026-03-16

V-Bridge:将视频生成先验桥接至多样化少样本图像复原 V-Bridge: Bridging Video Generative Priors to Versatile Few-shot Image Restoration

Shenghe Zheng, Junpeng Jiang, Wenbo Li 📅 2026-03-13 👍 13 2026-07-13 08:36
All-in-One Restoration 先验迁移 图像复原 少样本学习 视频生成

用预训练视频模型激活复原先验,仅需1K样本实现少样本图像复原

前置知识

扩散模型(Diffusion Models)

扩散模型是一类通过逐步添加噪声再逐步去噪来学习数据分布的生成模型。其核心思想是定义前向过程将数据逐渐转换为高斯噪声,然后训练神经网络学习反向去噪过程。在图像和视频生成领域,扩散模型已成为主流范式,包括DDPM、Stable Diffusion、DiT等架构。这些模型通过大量数据训练,隐式学习了丰富的视觉先验知识,包括物体结构、纹理模式、光照变化等。

本文利用预训练视频扩散模型作为图像复原的先验来源,理解扩散模型的工作原理是理解本文方法的关键基础

图像复原(Image Restoration)

图像复原是低层视觉任务的总称,旨在从退化图像中恢复高质量图像。常见的退化类型包括模糊、噪声、压缩伪影、雾霾、雨滴、低光照等。传统方法针对每种退化类型设计专门的模型,而All-in-One方法试图用单一模型处理多种退化。主流方法通常需要大量训练数据(从15K到1M样本),采用回归式映射学习退化图像到清晰图像的直接变换。

本文提出了一种全新的图像复原范式,将静态回归问题转化为渐进式生成过程,这是理解本文创新点的核心

少样本学习(Few-shot Learning)

少样本学习是指模型仅使用极少量标注样本就能有效学习新任务的能力。传统深度学习方法通常需要成千上万的训练样本,而少样本学习旨在大幅降低数据需求。这通常通过迁移学习、元学习或利用预训练模型的先验知识来实现。在本文中,少样本指的是仅使用约1000个训练样本(仅为现有方法的0.1%-7%),这在图像复原领域是非常激进的数据效率目标。

本文的核心贡献之一是展示了预训练视频模型可以实现极强的少样本复原能力,理解少样本学习的概念有助于把握本文的实际价值

链式帧推理(Chain-of-Frames Reasoning)

链式帧推理(CoF)是指视频生成模型在生成视频序列时展现出的推理能力。随着视频生成模型规模的增大,模型不仅学会了合成运动,还能进行空间关系推理、逻辑推断、动作规划等复杂的视觉推理。这种能力源于模型在大规模视频数据上学习到的时空一致性和因果关系。CoF将视频生成视为一系列帧的推理过程,每一帧的生成都依赖于对前序帧的理解和推理。

本文将图像复原重新诠释为一种链式帧推理过程,利用视频模型的CoF能力来实现渐进式质量提升,这是方法论的核心创新

课程学习(Curriculum Learning)

课程学习是一种训练策略,模仿人类学习过程,从简单任务逐步过渡到困难任务。在本文中,课程学习体现在渐进式分辨率训练:模型先在低分辨率上学习全局结构恢复,然后逐步提高分辨率来学习细节生成。这种策略有助于模型更稳定地收敛,并能更好地处理预训练模型与目标任务之间的分辨率差异。

本文的渐进式课程训练策略是提升数据效率和复原质量的关键技术,理解这一概念有助于理解训练方法的设计思路

研究动机

当前图像复原领域面临严重的数据效率问题。传统方法针对每种退化类型(如模糊、噪声、雾霾、雨滴等)设计专门模型,需要大量任务特定的训练数据。例如,FoundIR方法使用了超过100万个训练样本,其他主流方法的数据规模从15K到77K不等。这种数据密集型的方法存在几个核心问题:首先,收集和标注大规模配对数据(退化图像-清晰图像)成本极高;其次,针对单一退化类型训练的模型泛化能力有限,难以处理真实场景中的混合退化;最后,All-in-One方法虽然尝试统一多种退化,但仍然需要大量训练数据(通常数万到数十万样本)。更根本的问题在于,现有方法将图像复原视为静态回归问题——学习从退化图像到清晰图像的直接映射,这种范式未能充分利用大规模生成模型中蕴含的丰富视觉先验知识。

本文的目标是本文的核心目标是探索一种全新的图像复原范式:利用预训练视频生成模型中蕴含的强大视觉先验知识,实现极少量训练样本(约1000个)下的高效图像复原。具体而言,作者希望证明:(1)大规模视频生成模型在海量多样化视频数据上训练后,隐式学习到了通用的、可迁移的复原先验;(2)这些先验可以通过极少的任务特定数据被激活和适配;(3)图像复原可以被重新定义为渐进式生成过程而非静态回归。最终目标是建立一种数据效率极高(仅需现有方法0.1%-7%的数据)且泛化能力强的统一图像复原框架。

与已有工作不同的是,本文的独特切入角度在于三个层面的范式转换。首先,在任务定义层面,将图像复原从静态回归重新诠释为渐进式视频生成——退化图像作为初始帧,高质量图像作为终止帧,复原过程模拟为帧间质量逐步提升的轨迹。其次,在先验利用层面,不同于现有方法从头训练或仅利用图像生成先验,本文首次探索将视频生成模型的时空先验用于图像复原。视频模型在训练过程中学习了物体运动、光照变化、结构连贯性等丰富的动态先验,这些先验对于理解退化模式和执行复原具有重要价值。最后,在数据构建层面,通过将静态的LQ-HQ配对数据构建为伪时序序列,为视频模型提供了时序一致的监督信号,使其能够学习完整的复原轨迹而非单一映射。

核心方法

V-Bridge的整体思路可以用一个直观的类比来理解:想象一位经验丰富的画家从粗糙草稿逐步精修成精美画作的过程。传统图像复原方法像是让画家直接从涂鸦一步完成杰作(静态回归),而V-Bridge则是让画家经历一系列渐进的精修步骤(渐进式生成)。技术路线上,作者选择预训练的视频生成模型(Wan2.2-TI2V-5B)作为基础,因为这些模型在海量视频数据上已经学会了如何生成连贯的视觉序列。通过将退化图像作为第一帧,高质量图像作为最后一帧,中间通过线性插值构建渐进序列,视频模型就能学习如何从低质量逐步演化到高质量。整个框架包含三个核心组件:伪时序数据构建(将静态配对转换为渐进序列)、渐进式课程训练(从低分辨率到高分辨率逐步训练)、以及漂移校正模块(弥补预训练分辨率与实际复原分辨率之间的差距)。这种设计使得模型仅需1K训练样本就能达到甚至超越使用百万级数据训练的专门模型。

本文的核心创新点在于将图像复原重新定义为条件生成过程,而非传统的一对一映射问题。与现有方法的本质区别体现在三个维度:第一,任务建模的差异——传统方法学习映射函数 $f: I_{LQ} \rightarrow I_{HQ}$,而V-Bridge学习的是质量演化轨迹 $\{I_t\}_{t=0}^T$,其中 $I_0 = I_{LQ}$,$I_T = I_{HQ}$,中间帧通过插值 $\mathbf{I}_t = (1-\alpha_t)\mathbf{I}_{\mathrm{LQ}} + \alpha_t\mathbf{I}_{\mathrm{HQ}}$ 构建,$\alpha_t = t/T$。这种建模方式使得模型能够学习复原的过程而非仅仅是结果。第二,先验来源的差异——不同于从头训练或利用图像生成先验,V-Bridge利用视频生成模型的时空先验。视频模型在训练中学习了时间连贯性、运动模式、光照变化等动态知识,这些知识对理解退化模式和执行复原具有重要价值。第三,数据效率的革命——通过激活预训练模型中的通用复原先验,仅需极少任务特定数据(1K样本)就能实现高质量复原,相比FoundIR的1M样本减少了1000倍。

方法步骤详情

V-Bridge的完整流程包含以下关键步骤。第一步是伪时序数据构建:给定退化图像 $I_{LQ}$ 和高质量图像 $I_{HQ}$ 的配对数据,构建长度为 $T+1$ 的伪时序序列 $\{I_t\}_{t=0}^T$。首帧 $I_0 = I_{LQ}$,末帧 $I_T = I_{HQ}$,中间帧通过像素空间线性插值生成:$I_t = (1 - \alpha_t) I_{LQ} + \alpha_t I_{HQ}$,其中 $\alpha_t = t/T$。这创建了一个单调质量演化的序列,为视频模型提供时序一致的监督信号。第二步是渐进式课程训练:采用三阶段渐进分辨率训练策略。第一阶段在512分辨率训练,学习全局结构恢复;第二阶段提升到720分辨率,学习中级细节;第三阶段进一步提升到960分辨率,学习精细纹理。每阶段训练100个epoch,总共300个epoch。训练目标是监督微调:给定条件输入 $I_0$ 和时间索引 $t$,模型预测 $\hat{I}_t = f_\theta(I_0, t)$,最小化重建损失 $\mathcal{L} = \sum_t \ell(\hat{I}_t, I_t)$。第三步是漂移校正模型训练:由于视频模型预训练分辨率(如720p)与实际复原需求(如4K)存在差距,基础模型输出存在系统性漂移。训练一个轻量级校正模型 $g_\phi$,学习从基础模型输出 $\hat{x}$ 到目标高分辨率图像 $x_{HR}$ 的短程校正轨迹:$g_\phi: p_\theta^{LR}(x) \rightarrow p_{HR}(x)$。校正模型使用少量中间帧构建伪时序序列,保持计算高效性。第四步是推理阶段:输入退化图像作为首帧,基础视频模型生成渐进复原轨迹,取最后一帧作为初步复原结果。然后通过漂移校正模型进一步增强细节,得到最终输出。

技术新颖性

V-Bridge的技术新颖性体现在多个层面。首先,这是首次将视频生成模型用于通用图像复原任务的尝试。虽然图像生成先验已被探索(如DiffBIR、DiffUIR),但视频模型蕴含的时空动态先验此前从未被用于低层视觉任务。这种探索开辟了一个全新的研究方向。其次,将复原建模为渐进式质量演化过程是一种创新的任务建模方式。传统方法将复原视为单步回归,而V-Bridge将其视为条件生成轨迹。这种建模方式不仅更符合复原的本质(渐进式改善),而且能够更好地利用视频模型的生成能力。第三,仅需1K训练样本的极端少样本设置是一个重要的技术突破。现有All-in-One方法通常需要数万到数百万样本,而V-Bridge通过激活预训练先验实现了0.1%-7%的数据需求,这在复原领域是前所未有的数据效率。第四,漂移校正模块的设计巧妙地解决了预训练分辨率与复原分辨率之间的差距问题。通过将这种差距解释为分辨率诱导的分布漂移,并训练专门的校正模型来弥合这一差距,作者提供了一种通用的解决方案。最后,渐进式课程训练策略——从低分辨率到高分辨率——与复原任务的层级特性完美匹配,既提高了训练稳定性,又提升了最终性能。

V-Bridge整体流程概览
Fig. 2: V-Bridge整体流程概览
少样本训练带来的性能提升
Fig. 4: 少样本训练带来的性能提升

实验结果

V-Bridge在多个维度上展示了令人瞩目的实验结果。在FoundIR测试集上,V-Bridge仅使用1K训练样本(0.1%-7%的现有方法数据量),在20个退化类型中的平均PSNR达到25.18 dB,SSIM达到0.7729。值得注意的是,V-Bridge在多个退化类型上超越了使用1M样本训练的FoundIR通用模型(FoundIR-G),例如在低光照任务上PSNR提升7.76 dB(26.94 vs 19.18),在L+B+N混合退化上提升3.79 dB(24.20 vs 20.41),在L+B+J混合退化上提升4.55 dB(25.71 vs 21.16)。漂移校正模块带来显著提升:PSNR平均提升1.4 dB,SSIM提升0.024。在跨数据集泛化实验中,V-Bridge在5个外部基准数据集上展现出强大性能:Dense-Haze上PSNR 11.97(超越所有基线)、UHD-LL上PSNR 17.87(仅次于AutoDIR的22.52)、NH-Haze上PSNR 12.97(最优)、UAV-Rain1k上PSNR 15.56(最优)、HQ-NightRain上PSNR 27.70(大幅领先,第二名仅16.29)。在未见任务(去雪)上的泛化实验更突显了模型的迁移能力,尽管未在雪景数据上训练,V-Bridge仍能有效去除雪伪影。帧数消融实验显示9帧设置效果最佳(平均PSNR 23.35),表明过多帧数并不能带来性能提升,反而可能引入冗余约束。数据规模实验表明,仅用200个训练样本就已达到与现有全数据基线相当的性能,验证了预训练先验的强大正则化作用。

FoundIR测试集上的定量比较(PSNR/SSIM)
Table 1: FoundIR测试集上的定量比较(PSNR/SSIM)
公开基准数据集上的定量比较(PSNR/SSIM)
Table 2: 公开基准数据集上的定量比较(PSNR/SSIM)
帧数消融实验(PSNR/SSIM)
Table 3: 帧数消融实验(PSNR/SSIM)
渐进式课程训练消融实验(PSNR/SSIM)
Table 4: 渐进式课程训练消融实验(PSNR/SSIM)
训练数据规模消融实验(PSNR/SSIM)
Table 5: 训练数据规模消融实验(PSNR/SSIM)
未见任务(去雪)的定量比较(PSNR/SSIM)
Table 6: 未见任务(去雪)的定量比较(PSNR/SSIM)
FoundIR测试集上的可视化比较
Fig. 3: FoundIR测试集上的可视化比较
消融实验结果
Fig. 5: 消融实验结果
未见任务(去雪)的可视化结果
Fig. 6: 未见任务(去雪)的可视化结果
查看结构化数据
任务指标本文基线提升
FoundIR测试集(20种退化类型平均) PSNR/SSIM 25.18 dB / 0.7729 FoundIR-G: 23.57 dB / 0.8199(1M样本) PSNR提升1.61 dB,使用数据量减少1000倍
Dense-Haze去雾 PSNR/SSIM 11.97 dB / 0.4897 AutoDIR: 12.33 dB / 0.4862(23K样本) SSIM最优,PSNR接近最优,数据量减少23倍
HQ-NightRain夜间雨天 PSNR/SSIM 27.70 dB / 0.8747 AgenticIR: 16.29 dB / 0.5681(15K样本) PSNR提升11.41 dB,数据量减少15倍
低光照复原 PSNR/SSIM 26.94 dB / 0.8944 FoundIR-G: 19.18 dB / 0.8278(1M样本) PSNR提升7.76 dB,数据量减少1000倍
NH-Haze薄雾 PSNR/SSIM 12.97 dB / 0.4241 AutoDIR: 12.71 dB / 0.4774(23K样本) PSNR最优,数据量减少23倍

局限与改进

尽管V-Bridge展示了令人印象深刻的性能,但仍存在一些值得深入探讨的局限性。首先,在某些特定退化类型上(如JPEG压缩),V-Bridge的性能不如专门方法。例如在JPEG任务上,V-Bridge的PSNR为26.59 dB,而PromptIR达到30.09 dB,X-Restormer达到32.99 dB。这表明预训练视频先验对某些特定退化类型的适配能力有限,可能需要更多任务特定数据来充分激活相关先验。其次,漂移校正模块虽然有效,但在某些场景下可能引入过度平滑,影响纹理细节的保留。在Rain和Raindrop等需要精细纹理的任务上,V-Bridge的SSIM指标(0.7836和0.7380)低于部分基线方法。第三,模型的计算复杂度较高——基础视频生成模型参数量为5B,加上校正模型,推理开销远超传统轻量级复原网络。这在实际部署中可能成为瓶颈,特别是对于实时应用。第四,论文未充分探讨模型在真实世界复杂退化场景下的表现。虽然展示了跨数据集泛化,但实验仍基于合成退化数据,真实退化的多样性和复杂性可能带来更大挑战。最后,消融实验显示帧数增加并不能持续提升性能(9帧最佳),这暗示模型可能未能充分利用视频模型的时序建模能力,视频先验的潜力可能未被完全挖掘。

独立分析的弱点

基于对论文的深入分析,V-Bridge存在几个值得关注的弱点及其改进方向。弱点一是特定退化类型的性能瓶颈:在JPEG压缩和部分噪声相关任务上,V-Bridge的表现明显落后于专门方法。例如JPEG任务PSNR为26.59 dB,而专门方法可达32.99 dB。改进方向可以是设计退化感知的自适应模块,根据输入退化类型动态调整先验激活策略;或者在训练数据中增加特定退化类型的样本比例,实现更均衡的多任务学习。弱点二是漂移校正的粗糙性:当前的漂移校正模型采用简单的短程轨迹修正,可能无法精确捕捉高频纹理细节。改进方向可以是引入多尺度校正策略,在不同分辨率层级分别进行校正;或者采用对抗训练增强细节生成的真实性。弱点三是计算效率问题:5B参数的基础视频模型加上校正模型,推理成本极高。改进方向可以是探索模型蒸馏或剪枝技术,在保持性能的同时减少参数量;或者开发更高效的推理策略,如缓存中间结果、增量计算等。弱点四是未充分利用视频模型的时序能力:实验显示9帧效果最佳,暗示过多帧数引入冗余。改进方向可以是设计自适应帧数策略,根据退化复杂度动态调整生成帧数;或者探索更有效的时序信息利用方式,如注意力机制的时序建模。弱点五是缺乏对真实退化的验证:实验主要基于合成退化数据,真实场景的泛化能力存疑。改进方向可以是收集真实退化数据集进行评估;或者设计领域适应策略,缩小合成与真实退化之间的分布差距。

未来方向

本文开辟了多个有前景的未来研究方向。方向一是更广泛的视频先验探索:当前工作使用单一视频生成模型(Wan2.2-TI2V-5B),未来可以探索不同类型、不同规模的视频模型,研究先验能力与模型规模、架构、训练数据的关系。特别是,随着更强大的视频生成模型的出现(如更高分辨率、更长时序),复原性能可能进一步提升。方向二是统一视觉基础模型:本文展示了视频模型在图像复原上的潜力,这启发我们探索视频生成模型作为通用视觉基础模型的可能性。未来可以研究如何将视频先验用于更多低层视觉任务(如超分辨率、图像编辑、风格迁移等),建立统一的生成式视觉理解框架。方向三是自适应少样本学习:当前方法使用固定的1K训练样本,未来可以研究如何根据任务复杂度自适应调整数据需求。例如,简单退化可能只需数百样本,而复杂退化可能需要更多数据。探索元学习或主动学习策略来优化数据选择也是一个有价值的方向。方向四是实时部署优化:为使技术更具实用价值,需要大幅降低计算成本。未来可以探索模型压缩、量化、推理优化等技术,使V-Bridge能够应用于实时视频复原场景。方向五是真实场景应用:将V-Bridge应用于真实世界场景,如监控视频增强、医学影像复原、卫星图像处理等,验证其在复杂真实退化下的表现。这需要收集真实配对数据并设计领域适应策略。

复现评估

从复现角度看,V-Bridge具有较好的可复现性基础。开源情况方面,论文声明为开源项目(项目名为V-Bridge),但未提供具体的代码仓库链接,这给完全复现带来一定障碍。数据方面,训练数据来自公开数据集FoundIR和RealCE,测试使用FoundIR测试集和多个公开基准(Dense-Haze、UHD-LL、NH-Haze、UAV-Rain1k、HQ-NightRain),数据获取相对容易。算力需求方面,基础模型为Wan2.2-TI2V-5B(50亿参数),加上校正模型,训练和推理需要相当大的GPU资源。论文未提供具体的硬件配置和训练时间,但基于模型规模推断,可能需要多块高端GPU(如A100 80GB)进行训练。复现难度方面,中等偏高。虽然论文描述了完整的方法流程(数据构建、课程训练、漂移校正),但某些实现细节(如具体的超参数选择、数据预处理、训练策略)可能需要进一步探索。渐进式课程训练的具体实现(分辨率切换时机、学习率调度等)对最终性能可能有显著影响,这些细节的缺失可能增加复现难度。建议复现者首先确认代码开源情况,准备足够的计算资源(至少4-8块A100),并仔细调整课程训练策略。