周期性与方向性的二重奏:用于突发闪烁移除的 Flickerformer It Takes Two: A Duet of Periodicity and Directionality for Burst Flicker Removal
基于闪烁的周期性和方向性特性,提出 Flickerformer 框架,实现高质量的突发图像闪烁移除
前置知识
相位相关 (Phase Correlation)
相位相关是一种经典信号处理技术,用于通过频域分析来评估图像之间的循环或平移相似性。其核心思想是将图像转换到频域后,利用相位谱的结构信息来计算相似度得分,这种方法对亮度变化不敏感,能够有效捕捉周期性模式。具体操作是对两帧图像进行 FFT 变换得到 $\tilde{X}_t = A_t(k)e^{i\Phi_t(k)}$,然后通过计算相位差异 $S_t(k) = e^{i\Phi_t(k)} \odot e^{-i\Phi_1(k)}$ 来获得相似度分数。
本文的 PFM 模块完全依赖相位相关来融合多帧特征,理解这一概念是掌握本文方法的基础。
自相关 (Autocorrelation)
自相关用于量化信号与其平移版本之间的相似性,能够揭示信号中隐含的周期性结构。在图像处理中,自相关能够放大重复出现的空间模式,同时抑制不相关的噪声。根据 Wiener-Khinchin 定理,空间自相关 $R_l$ 可以通过特征图幅度的平方的逆快速傅里叶变换高效计算:$R_l = \mathcal{F}^{-1}(\mathcal{F}(F_l) \odot \mathcal{F}(F_l)^*) = \mathcal{F}^{-1}(|\mathcal{F}(F_l)|^2)$,这种方法在频率域操作,计算效率高。
本文的 AFFN 模块利用自相关来增强帧内周期性结构,这是理解本文如何建模闪烁周期性的关键。
小波分解 (Wavelet Decomposition)
小波分解是一种将信号分解为不同频率和方向子带的多分辨率分析方法。Haar 小波是其中最简单的一种,它能够将图像分解为一个低频分量(LL)和三个高频分量(LH 水平、HL 垂直、HH 对角)。对于闪烁图像,高频子带(特别是 LH 和 HL)能够很好地捕捉闪烁边缘的锐化亮度变化。具体操作是对特征 $F_l \in \mathbb{R}^{H \times W \times 2^lC}$ 执行离散小波变换:$[F_{LL}, F_{LH}, F_{HL}, F_{HH}] = \text{DWT}(F_l)$。
本文的 WDAM 模块依赖小波分解来分离方向性高频信息,这对于理解如何利用闪烁的方向性至关重要。
研究动机
现有图像闪烁移除方法存在显著局限性。传统方法如基于模式匹配或亮度近似的方法效果有限,硬件方案如传感器级的调制检测或补偿机制需要专用硬件设计,限制了其在多样化成像设备上的适用性。基于深度学习的方法,如 Lin 等人提出的 DeflickerCycleGAN,将闪烁移除视为通用图像修复任务,忽略了闪烁伪影的物理特性。这些通用修复网络,包括 Uformer、Restormer、Burstormer 等 16 种对比方法,虽然在去模糊、低光照增强、超分辨率等任务上表现出色,但在处理闪烁时往往产生颜色偏差和重影伪影。具体来说,HDRTransformer 在恢复过曝光区域时出现轻微黄色偏差,AST 出现轻微红色偏差,严重闪烁情况下现有方法恢复不彻底。在 BurstDeflicker 基准数据集上的定量结果显示,次优方法 PSNR 为 30.646 dB,而本文方法达到 31.226 dB,提升了 0.580 dB。
本文的目标是本文的目标是开发一个专门针对突发闪烁移除的深度学习框架,能够有效消除图像中的闪烁伪影而不引入重影。具体目标包括:充分利用闪烁伪影的两个内在特性——周期性和方向性;在频域和空域联合建模闪烁特性;在保持计算效率的同时实现最先进的修复质量;在真实世界闪烁数据集上验证方法的泛化能力和鲁棒性。作者希望通过将物理先验嵌入神经网络架构,打破通用的图像修复框架在处理闪烁这类结构化退化时的性能瓶颈。
与已有工作不同的是,本文的独特切入角度在于首次明确揭示并利用了闪烁伪影的两个内在特性:周期性和方向性,并将这些物理先验直接嵌入到 transformer 架构中。现有方法主要将闪烁移除视为通用图像修复任务,忽略了闪烁的结构化时空模式。本文观察到,闪烁图像的相位信息编码了闪烁的空间分布——交换两帧连续闪烁图像的相位分量会改变闪烁在帧间的分布。基于这一发现,本文设计了三个专门模块:PFM 利用相位相关性进行帧间融合,AFFN 通过自相关建模帧内周期结构,WDAM 利用小波域的高频变化指导低频暗区域的修复。与通用注意力机制不同,本文的方法是针对闪烁特性量身定制的,这种从物理建模到深度学习的桥梁架设是本文最显著的创新点。
核心方法
Flickerformer 采用了非对称的 U 型编码器-解码器架构,输入为三帧闪烁图像($I_0, I_1, I_2$),输出为一帧修复后的无闪烁图像($\hat{I}_1$)。整体流程分为四个主要阶段:特征提取、频域周期性建模、空域方向性建模、以及最终重建。首先通过 $3 \times 3$ 组卷积从三帧图像中提取初始低级特征 $X_t \in \mathbb{R}^{H \times W \times C}$;然后将这些特征送入 PFM 进行帧间融合,得到融合特征 $F_0$;接着将 $F_0$ 送入三级编码器,每级编码器包含多个 Transformer 块,第 $l$ 级编码器输出下采样特征 $F_l \in \mathbb{R}^{\frac{H}{2^l} \times \frac{W}{2^l} \times 2^lC}$;在解码器中,使用 WDAM 进行方向性注意力处理,得到特征 $F_{att}$;最后通过上采样和残差预测得到最终输出 $\hat{I}_1 = I_1 + R$,其中 $R$ 是预测的残差图。这种设计直觉上遵循了从低级特征融合到高级语义理解,再到精细化修复的递进思路。
核心创新点在于将闪烁的物理先验(周期性和方向性)直接嵌入到 transformer 架构中,设计了三个专门模块来分别建模这些特性。与现有方法使用通用注意力机制不同,本文的 PFM 利用相位相关性来聚合多帧特征,捕捉帧间变化的周期性;AFFN 通过自相关来增强帧内的周期性结构;WDAM 利用小波分解的方向性高频信息来指导低频区域的修复。这种设计的本质区别在于,它不是将闪烁移除视为通用的图像修复任务,而是针对闪烁这种结构化退化的特定特性量身定制网络架构。具体来说,PFM 基于相位编码闪烁分布的观察,通过相位相似度分数 $S_t(k) = e^{i\Phi_t(k)} \odot e^{-i\Phi_1(k)}$ 作为可学习卷积核来增强参考帧特征;AFFN 利用 Wiener-Khinchin 定理通过频域计算自相关 $R_l = \mathcal{F}^{-1}(\mathcal{F}(F_l) \odot \mathcal{F}(F_l)^*)$;WDAM 仅在低频子带 $F_{LL}$ 上进行注意力计算,计算复杂度降低约 75%。
方法步骤详情
方法步骤的完整描述如下:(1)特征提取:对输入的三帧图像 $\{I_0, I_1, I_2\}$ 在通道维度拼接后,通过 $3 \times 3$ 组卷积提取初始低级特征 $X_t \in \mathbb{R}^{H \times W \times C}$,其中 $t \in \{0, 1, 2\}$ 表示帧索引。(2)相位融合(PFM):对每个特征 $X_t$ 执行 FFT 得到频域特征 $\tilde{X}_t = A_t(k)e^{i\Phi_t(k)}$,计算相位相似度 $S_t(k) = e^{i\Phi_t(k)} \odot e^{-i\Phi_1(k)}$,通过卷积和 sigmoid 激活生成频域权重 $W_t = \sigma(\text{Conv}(S_t))$,然后通过 $\hat{X}_t = \mathcal{F}^{-1}(\tilde{X}_t \odot W_t)$ 获得增强的空间特征,最后通过 $F_0 = \text{ReLU}(\text{Conv}([\hat{X}_0, X_1, \hat{X}_2]))$ 融合。(3)自相关前馈(AFFN):计算特征 $F_l$ 的自相关 $R_l = \mathcal{F}^{-1}(\mathcal{F}(F_l) \odot \mathcal{F}(F_l)^*)$,通过双域调制 $\hat{F}_k = \mathcal{F}(F_l) + \alpha |\mathcal{F}(F_l)|^2$ 和 $\hat{F}_l = \mathcal{F}^{-1}(\hat{F}_k) + \beta R_l$,然后通过深度可分离卷积和 GELU 得到输出。(4)小波方向注意力(WDAM):对特征 $F_l$ 执行 Haar 小波分解得到 $[F_{LL}, F_{LH}, F_{HL}, F_{HH}]$,在 $F_{LL}$ 上进行窗口多头注意力,通过 $M = \sigma(\text{Conv}([F_{LH}, F_{HL}]))$ 生成方向权重,最终通过 IDWT 重建。(5)残差预测:通过 $3 \times 3$ 卷积预测残差 $R \in \mathbb{R}^{H \times W \times 3}$,输出 $\hat{I}_1 = I_1 + R$。
技术新颖性
技术新颖性体现在多个方面。首先,这是首个专门为突发闪烁移除设计的 transformer 架构,首次明确利用了闪烁的相位特性——观察到交换两帧闪烁图像的相位会改变闪烁的帧间分布,这一发现为 PFM 的设计提供了理论基础。其次,AFFN 引入了频域-空域联合的自相关机制,通过 $\hat{F}_k = \mathcal{F}(F_l) + \alpha |\mathcal{F}(F_l)|^2$ 和 $\hat{F}_l = \mathcal{F}^{-1}(\hat{F}_k) + \beta R_l$ 的双域调制,实现了周期性结构的自适应增强,这与传统的 FFN、LeFF、GDFN 等前馈网络有本质区别。第三,WDAM 的创新在于仅在小波分解的低频子带上计算注意力,计算复杂度从 $O_{\text{WDAM}} = \frac{1}{4} O_{\text{W-MHA}} + O(HWC)$ 降低到标准窗口注意力的约 25%,同时利用方向性高频信息作为注意力先验。实验显示,使用 WDAM 比 Swin SA 提升 +0.229 dB,比 Top-k SA 提升 +0.332 dB,参数和计算量保持不变。这种将物理先验、多域建模和高效注意力机制结合的设计,在闪烁移除这一特定任务上实现了技术上的突破。
实验结果
在 BurstDeflicker 基准数据集上的实验结果表明,Flickerformer 在所有评估指标上都取得了最先进的性能。定量方面,Flickerformer 达到 PSNR $31.226$ dB、SSIM $0.920$、LPIPS $0.045$,分别超过次优方法 AST 的 $30.646$ dB、$0.918$、$0.050$。更值得注意的是,Flickerformer 仅使用了 $3.92$ M 参数和 $128.76$ G FLOPs,而次优方法使用了 $19.90$ M 参数和 $156.43$ G FLOPs,意味着在参数量减少约 80% 的情况下性能仍更优。消融实验显示,三个模块各自贡献显著:使用 PFM 比 CNN 基线提升 +0.279 dB,使用 AFFN 比 FRFN 提升 +0.382 dB,使用 WDAM 比 ASSA 提升 +0.373 dB。与不同前馈网络的对比显示,AFFN 在 PSNR 上比 FRFN 提升 +0.265 dB,参数和计算量几乎相同。与不同注意力机制的对比显示,WDAM 比 Swin SA 提升 +0.330 dB,比 Condensed SA 提升 +0.245 dB。定性结果清晰显示,现有方法在恢复过曝光区域时引入颜色偏差,而 Flickerformer 能够保持原始颜色;在严重闪烁情况下,Flickerformer 实现了更彻底的恢复;在屏幕闪烁区域,Flickerformer 的定位和移除能力更精确。作者还指出了一个局限性:当多帧干净区域未能覆盖整个场景时,模型难以恢复缺失区域,例如当长条灯熄灭时只能部分恢复。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| 突发图像闪烁移除 | PSNR (dB) | 31.226 | AST (30.646) | +0.580 |
| 突发图像闪烁移除 | SSIM | 0.920 | HDRTransformer (0.918) | +0.002 |
| 突发图像闪烁移除 | LPIPS (↓) | 0.045 | HINT (0.046) | -0.001 |
| 突发图像闪烁移除 | 参数量 (M) | 3.92 | AST (19.90) | -80.3% |
| 突发图像闪烁移除 | 计算量 (G FLOPs) | 128.76 | AST (156.43) | -17.7% |
局限与改进
局限性分析包括作者承认的和独立观察的几个方面。作者承认的局限性是,当多帧图像中的干净区域未能覆盖整个场景时,模型难以恢复缺失区域。例如,在图 9 所示的案例中,当长条灯完全熄灭时,只有部分区域能够恢复。这是因为模型依赖多帧间的信息融合,如果所有帧在某个区域都严重退化,就没有足够的干净信息来指导恢复。独立观察的局限性包括:(1)方法对帧间运动的敏感性:虽然论文提到该方法能够减少重影,但在剧烈运动的场景下,相位相关可能仍然引入一定的对齐误差;(2)计算复杂度:尽管 WDAM 相比标准注意力降低了约 75% 的计算量,但整体模型仍需要 128.76 G FLOPs,在移动设备上的实时应用可能受限;(3)对光源频率的依赖:方法假设闪烁是由交流电照明引起的周期性模式,如果光源频率或调制方式异常,可能需要调整或重新训练;(4)数据集规模:BurstDeflicker 数据集虽然为首个突发闪烁移除基准,但其规模和场景多样性可能仍不足以保证方法在所有真实世界场景下的泛化能力;(5)颜色保真度:虽然方法在定量指标上表现优异,但在极端曝光条件下,颜色保真度的进一步提升可能需要额外的颜色校正模块。
独立分析的弱点
独立分析的弱点及其改进方向如下:(1)对极端光照条件的鲁棒性不足:在长条灯完全熄灭的场景下,模型恢复效果有限。改进方向可以引入外部光照估计模块或利用生成先验来推断缺失区域的内容。(2)帧间运动对齐的依赖:相位相关对帧间位移敏感,在剧烈运动场景下可能引入误差。改进方向可以结合光流估计或运动补偿机制来增强对齐鲁棒性。(3)计算复杂度仍有优化空间:128.76 G FLOPs 在移动设备上难以实时运行。改进方向可以进一步压缩 WDAM 的窗口大小,或引入更高效的注意力机制如线性注意力。(4)对异常光源模式的适应性:方法假设标准交流电照明,对 PWM 调制或其他复杂光源模式可能不适应。改进方向可以引入自适应频率估计模块,动态调整相位相关的频率范围。(5)单阶段重建的局限性:直接预测残差可能在高频细节恢复上受限。改进方向可以采用多阶段细化策略,先恢复低频结构再细化高频细节。(6)缺乏显式的颜色约束:虽然颜色偏差较少,但在极端情况下仍有改善空间。改进方向可以引入颜色一致性损失或色彩空间正则化来增强颜色保真度。
未来方向
未来研究方向包括作者提出的和基于成果可延伸的方向。作者提到可以将该方法扩展到视频闪烁移除任务,利用时间维度的额外信息进一步提升恢复质量。基于成果可延伸的方向包括:(1)跨模态闪烁移除:结合红外或深度信息来辅助可见光图像的闪烁恢复,特别是在光照极端变化的场景下。(2)自适应闪烁检测与分类:开发能够自动检测闪烁类型(交流电、PWM 等)并选择最佳恢复策略的智能系统。(3)轻量化模型设计:基于本文的架构设计理念,开发适用于移动端的轻量级闪烁移除模型,通过知识蒸馏或架构搜索进一步压缩计算量。(4)联合优化流水线:将闪烁移除与其他低层视觉任务(如去噪、去模糊、超分辨率)联合优化,利用任务间的协同效应提升整体性能。(5)自监督学习:由于真实场景中缺乏成对的干净-闪烁图像对,开发基于自监督或无监督学习的闪烁移除方法具有重要实用价值。(6)实时视频处理:针对实时视频流处理需求,研究时间一致性的保持机制,避免帧间闪烁恢复不连贯的问题。(7)物理模型与深度学习的深度融合:进一步利用光学成像的物理模型,如传感器的响应特性、光照传播模型等,构建物理感知的闪烁移除网络。
复现评估
复现评估方面,论文提供了完整的开源信息。代码已公开在 GitHub(https://github.com/qulishen/Flickerformer),使用 PyTorch 框架实现。实验基于 BurstDeflicker 数据集,这是首个多帧闪烁移除基准数据集,包含真实世界的闪烁图像对。模型训练使用 Adam 优化器,学习率为 $1e^{-4}$,损失函数采用 L1 损失和感知损失(使用 VGG-19)的等权组合。实现细节包括三级编码器-解码器架构,每级的 Transformer 块数量为 $[2, 2, 2]$,注意力头数为 $[1, 2, 4]$,通道维度为 $[32, 64, 96]$,AFFN 的通道扩展因子为 $\gamma = 2.66$。消融实验提供了详细的模块有效性验证,包括与前馈网络(FFN、LeFF、GDFN、FRFN)和注意力机制(Swin SA、Top-k SA、Condensed SA、ASSA)的对比。从算力需求来看,128.76 G FLOPs 的计算量在中高端 GPU 上可以接受,但需要一定的显存。总体而言,论文的复现性良好,开源代码和详细的实验设置为独立复现提供了充分条件。难度方面,需要熟悉 PyTorch、Transformer 架构、以及频域和小波变换的基本操作,对于有深度学习背景的研究者来说难度适中。
论文图表
图 (a) 展示了相位交换实验:交换两帧连续闪烁图像的相位分量会导致闪烁模式的帧间交换,表明相位编码了闪烁的空间分布。图 (b) 说明了闪烁的内在特性及对应的模块设计:PFM 和 AFFN 基于周期性设计,WDAM 基于方向性设计。
这张图对理解论文至关重要,因为它直观地展示了论文核心观察——相位编码闪烁分布,以及三个设计模块与闪烁特性的对应关系,为整个方法提供了物理直觉。
展示了 Flickerformer 在大规模光照熄灭场景下的局限性。当长条灯完全熄灭时,只有部分区域能够恢复,说明当多帧干净区域未能覆盖整个场景时,模型难以恢复缺失区域。
这张图诚实展示了方法的局限性,对于理解方法的适用边界和未来改进方向具有重要意义。