基于U-Net架构的脉冲神经网络用于单幅图像去雾 U-Net-Like Spiking Neural Networks for Single Image Dehazing
首次将脉冲神经网络应用于图像去雾,以极小模型实现SOTA性能
前置知识
脉冲神经网络(Spiking Neural Networks, SNNs)
脉冲神经网络是第三代神经网络,模拟生物神经元的通信方式,通过离散的脉冲信号(spikes)而非连续值传递信息。SNNs中的神经元采用膜电位(membrane potential)模型,当膜电位累积超过阈值时发放脉冲。相比传统人工神经网络(ANNs),SNNs的核心优势在于其计算高效性——神经元通过累积突触权重的脉冲来确定内部电位,避免了乘法运算,从而大幅减少乘积累加运算(MACs)。这一特性使SNNs特别适合在神经形态硬件上部署,能够突破冯·诺依曼瓶颈,实现大规模脉冲模型的高效计算。
本文首次将SNNs应用于图像去雾领域,理解SNNs的工作原理是理解本文核心创新OLIFBlock的基础
Leaky-Integrate-and-Fire(LIF)神经元模型
LIF神经元是SNNs中最常用的神经元模型,其行为可用微分方程 $\tau \frac{du}{dt} = -u + I_{syn}$ 描述,其中 $u$ 为膜电位,$\tau$ 为时间衰减系数,$I_{syn}$ 为上层输入的外部刺激。当膜电位 $u$ 低于阈值 $V_{th}$ 时,神经元不发放脉冲,膜电位随时间衰减;当 $u$ 超过 $V_{th}$ 时,神经元发放脉冲(输出为1),膜电位重置为静息电位。LIF模型的关键特性是其泄露机制——即使没有输入,膜电位也会自然衰减,这使其能够更好地模拟真实神经元的动态行为。
本文提出的OLIFBlock是基于LIF神经元的改进,理解LIF的原始公式才能理解OLIF的创新之处
U-Net架构
U-Net是一种经典的编码器-解码器网络架构,最初由Ronneberger等人在2015年为生物医学图像分割提出。其核心设计是通过跳跃连接(skip connections)将编码器各层的特征图与解码器对应层进行拼接或融合,从而保留多尺度的空间信息。U-Net通常包含多个下采样阶段(编码)和上采样阶段(解码),形成对称的U形结构。在图像去雾等底层视觉任务中,U-Net的多尺度特征处理能力使其能够同时捕获局部细节和全局上下文信息,这对于恢复不同大小的雾化区域至关重要。
本文采用5阶段U-Net作为整体架构骨架,理解U-Net才能理解DehazeSNN的多尺度特征处理策略
选择性核融合(SKfusion)
SKfusion是一种基于注意力机制的特征融合方法,灵感来源于选择性核网络(SKNet)。与传统的直接拼接(concatenation)不同,SKfusion首先将两个分支的特征图进行逐元素相加,然后通过全局平均池化(GAP)和MLP模块生成注意力向量。这些注意力向量作为权重,允许网络选择性地关注来自各个分支的相关信息。SKfusion的核心优势在于它能够自适应地平衡不同来源的特征信息,而不是简单地堆叠所有特征,从而在保持低计算成本的同时实现更有效的特征融合。
本文使用SKfusion替代传统的跳跃连接拼接方式来融合编码器和解码器的特征,这是架构设计的一个重要改进
乘积累加运算(MACs)
乘积累加运算(Multiply-Accumulate Operations)是衡量模型计算复杂度的核心指标,表示模型执行一次前向推理所需的乘法和加法运算总数。MACs与模型的计算时间、能耗和硬件需求直接相关。在深度学习模型中,卷积层和全连接层是MACs的主要来源。例如,一个卷积层的MACs可以通过输出特征图尺寸、卷积核大小、输入输出通道数等参数计算得出。相比模型参数量(#Param),MACs更能反映模型的实际计算负担,因为相同参数量的模型可能有不同的计算模式。
本文强调DehazeSNN在MACs方面的显著优势——相比DehazeFormer的279.7G MACs,DehazeSNN-L仅需37.27G MACs,这是评估其效率的关键指标
研究动机
单幅图像去雾是计算机视觉中的关键挑战,传统方法依赖大气散射模型估计传输深度来重建无雾图像,但其性能受限于先验知识的局限性。深度学习方法虽已主导该领域,但现有主流架构存在显著缺陷:CNNs由于卷积核尺寸有限,在捕获长程依赖关系和全局图像特征方面能力不足,难以有效处理大范围的雾化区域;虽然多尺度融合、特征金字塔和空洞卷积等技术被引入以增强CNN的全局感知能力,但这些改进增加了模型复杂度。另一方面,基于Transformer的模型(如DehazeFormer)虽然通过自注意力机制能有效捕获全局信息,直接建立雾图到无雾图的映射关系,但这种长程依赖建模能力的代价是巨大的计算开销——DehazeFormer需要25.44M参数和279.7G MACs。更先进的模型如Dehamer更是达到132.50M参数。这种计算负担严重限制了模型在资源受限场景中的部署。
本文的目标是本文旨在开发一种全新的图像去雾架构,能够同时实现以下三个目标:(1)有效捕获多尺度图像特征,包括局部细节和长程依赖关系;(2)大幅降低模型参数量和计算复杂度,实现轻量化设计;(3)在去雾性能上达到或超越现有最先进方法的水平。具体而言,作者希望找到一种新的计算范式,既能像CNNs一样高效处理局部特征,又能像Transformers一样捕获全局依赖,同时保持极低的计算成本。
与已有工作不同的是,本文的独特切入角度在于引入脉冲神经网络(SNNs)这一全新的计算范式来解决图像去雾问题。SNNs作为一种受生物神经系统启发的计算模型,通过离散脉冲而非连续值进行信息传递,其神经元内部电位由突触权重的累积决定,从而避免了传统神经网络中的乘法运算。这种计算特性使SNNs能够显著降低MACs,同时保持对复杂特征的表达能力。尽管SNNs已在图像分类、分割和机器人控制等领域得到应用,但从未被用于图像去雾任务。本文通过设计专门的OLIFBlock模块,首次将SNNs引入图像去雾领域,填补了这一技术空白,开辟了脉冲神经网络在底层视觉任务中的应用新方向。
核心方法
DehazeSNN的整体思路是将经典的U-Net多尺度架构与脉冲神经网络(SNNs)的高效计算特性相结合,构建一个既能有效提取多尺度特征又能大幅降低计算成本的去雾网络。直觉上,图像去雾需要同时处理局部细节(如物体边缘、纹理)和全局信息(如大气光、雾的分布),这正是U-Net多尺度结构的优势所在。而SNNs的脉冲计算机制——通过累积突触权重而非乘法操作来处理信息——为降低计算复杂度提供了可能。DehazeSNN的技术路线是:首先通过3×3卷积层提取浅层特征,然后将特征图输入5阶段的编码器-解码器网络,每个阶段包含多个SNNBlock模块。在编码器和解码器之间,采用SKfusion进行特征融合,替代传统的拼接方式。最终通过卷积层输出重建的无雾图像。这种设计使DehazeSNN能够以4.75M参数和37.27G MACs的极小计算代价,达到41.26 PSNR的去雾性能。
本文的核心创新点是提出了OLIFBlock(Orthogonal Leaky-Integrate-and-Fire Block),这是一种全新的脉冲神经网络模块设计,具有以下几个本质区别于传统方法的创新:首先,OLIFBlock采用正交分组策略,将特征图分解为水平和垂直两个方向的分支,分别独立累积空间信息,而非传统的时间步累积方式。这种设计使网络能够从不同方向捕获图像特征,建立长程依赖关系。其次,OLIFBlock用连续输出替代了传统LIF神经元的二值脉冲输出,输出公式为 $r_{g+1} = \max(u_{t+1}^{\text{norm}}, V_{th})$,这使得脉冲神经网络能够支持全精度的梯度下降优化,解决了传统SNNs训练困难的问题。第三,OLIFBlock在空间域而非时间域进行电位累积,通过迭代分组技术(group steps)处理特征图,实现了大规模并行计算在GPU上的高效执行。这些创新使DehazeSNN成为首个将SNNs成功应用于图像去雾的方法。
方法步骤详情
DehazeSNN的处理流程包含以下具体步骤:(1)浅层特征提取阶段:输入雾图 $I \in \mathbb{R}^{3 \times H \times W}$,通过3×3卷积层生成浅层特征图 $F \in \mathbb{R}^{C \times H \times W}$。(2)深层特征提取阶段:特征图 $F$ 被送入5阶段的编码器-解码器网络,每个阶段由SNNBlock模块组成,配置为[8, 16, 32, 16, 8]个块(DehazeSNN-L)或[8, 12, 16, 12, 8]个块(DehazeSNN-M),嵌入维度为[24, 48, 96, 48, 24]。每个SNNBlock包含两个残差子模块:OLIFBlock和MLPs,通过Drop Path连接。(3)OLIFBlock内部处理:首先进行深度可分离卷积(DWConv),然后将特征图分解为水平和垂直两个分支。在每个分支中,通过LIF计算累积空间信息,具体公式为 $y_{g+1} = \sum W_g x_g$,$u_{g+1} = \tau u_g(1 - o_g) + y_{g+1}$。当 $u_{g+1} > V_{th}$ 时输出脉冲 $o_{g+1}=1$,否则 $o_{g+1}=0$。最终输出 $r_{g+1} = \max(u_{t+1}^{\text{norm}}, V_{th})$。(4)特征融合:编码器和解码器同层特征通过SKfusion融合,首先逐元素相加,然后通过GAP和MLP生成注意力权重。(5)图像重建:最终通过3×3卷积层输出重建图像 $J \in \mathbb{R}^{3 \times H \times W}$。训练采用L1损失和LPIPS损失的组合,公式为 $\mathcal{L}_{total} = \alpha_1 \mathcal{L}_1 + (1-\alpha_1) \mathcal{L}_{LPIPS}$,其中 $\alpha_1=0.5$。
技术新颖性
DehazeSNN的技术新颖性体现在多个层面:首先,在方法论层面,这是脉冲神经网络(SNNs)在图像去雾领域的首次应用,开辟了全新的研究方向。SNNs传统上应用于分类、分割等高层视觉任务,本文证明了其在底层视觉复原任务中的潜力。其次,在模块设计层面,OLIFBlock提出了三项技术创新:(1)正交分组迭代机制——将特征图分解为水平和垂直方向分别处理,打破了传统SNNs依赖时间步累积的限制;(2)连续输出替代二值脉冲——输出 $r_{g+1} = \max(u_{t+1}^{\text{norm}}, V_{th})$ 使网络支持全精度梯度优化,解决了SNNs训练困难的核心问题;(3)空间域累积替代时间域累积——通过group steps实现GPU上的大规模并行计算,突破了SNNs难以在GPU上高效训练的瓶颈。第三,在架构设计层面,SKfusion替代传统的拼接融合方式,通过注意力机制实现自适应特征选择,在保持低计算成本的同时提升融合效果。第四,在性能-效率权衡方面,DehazeSNN-L以4.75M参数和37.27G MACs达到41.26 PSNR,相比参数量相似的DehazeNet(0.009M参数/19.82 PSNR)提升了21.44 PSNR,相比性能相近的DehazeFormer(25.44M参数/40.05 PSNR)减少了81%的参数和87%的MACs。
实验结果
本文的实验结果在摄影去雾和遥感去雾两个任务上均验证了DehazeSNN的有效性。在RESIDE-ITS数据集上,DehazeSNN-L达到了41.26 PSNR和0.996 SSIM,超越了所有对比方法,包括DehazeFormer(40.05 PSNR/0.996 SSIM,25.44M参数/279.7G MACs)和UVM-Net(40.17 PSNR/0.996 SSIM,19.25M参数/173.55G MACs)。值得注意的是,DehazeSNN-L仅需4.75M参数和37.27G MACs,参数量仅为DehazeFormer的18.7%,MACs仅为13.3%。在RESIDE-OTS数据集上,DehazeSNN-L达到33.69 PSNR和0.982 SSIM,由于该数据集规模庞大(313,950对训练图像),紧凑模型难以全面捕获特征,因此排名位居前列但非最优。在RESIDE-6K混合数据集上,DehazeSNN-M达到30.07 PSNR/0.973 SSIM,DehazeSNN-L达到30.77 PSNR/0.975 SSIM,超越了大多数对比方法。在RS-Haze遥感去雾数据集上,DehazeSNN-M达到38.95 PSNR/0.970 SSIM,DehazeSNN-L达到39.14 PSNR/0.971 SSIM,显著优于AECR-Net(35.69/0.959)和Restormer(32.94/0.958)。消融实验证实了各组件的有效性:基准模型(无SKfusion和OLIFBlock)为25.69 PSNR/0.938 SSIM,添加SKfusion后提升至25.70/0.939,添加OLIFBlock后大幅提升至29.88/0.971,完整模型达到30.07/0.973。损失函数实验表明L1+LPIPS组合(0.5:0.5权重)最优,达到30.07 PSNR/0.973 SSIM。LIF分组数实验显示g=4时性能最佳。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| 摄影去雾(室内场景) | PSNR/SSIM | DehazeSNN-L: 41.26 dB / 0.996 | DehazeFormer: 40.05 dB / 0.996 | +1.21 dB PSNR,参数量减少81%(4.75M vs 25.44M),MACs减少87%(37.27G vs 279.7G) |
| 摄影去雾(室内场景) | PSNR/SSIM | DehazeSNN-M: 40.10 dB / 0.995 | UVM-Net: 40.17 dB / 0.996 | 参数量减少86%(2.70M vs 19.25M),MACs减少85%(26.28G vs 173.55G) |
| 摄影去雾(室外场景) | PSNR/SSIM | DehazeSNN-L: 33.69 dB / 0.982 | DehazeFormer: 34.95 dB / 0.984 | 参数量减少81%,MACs减少87%,性能接近SOTA |
| 混合场景去雾 | PSNR/SSIM | DehazeSNN-L: 30.77 dB / 0.975 | Bi-Dehazing: 30.71 dB / 0.975 | +0.06 dB PSNR,参数量减少41%(4.75M vs 8.054M) |
| 遥感图像去雾 | PSNR/SSIM | DehazeSNN-L: 39.14 dB / 0.971 | MSBDN: 38.57 dB / 0.965 | +0.57 dB PSNR,参数量减少85%(4.75M vs 31.35M),MACs减少10%(37.27G vs 41.54G) |
| 遥感图像去雾 | PSNR/SSIM | DehazeSNN-M: 38.95 dB / 0.970 | AECR-Net: 35.69 dB / 0.959 | +3.26 dB PSNR,参数量增加3%(2.70M vs 2.61M),MACs减少50%(26.28G vs 52.2G) |
局限与改进
尽管DehazeSNN取得了显著成果,但仍存在以下局限性:首先,在大规模数据集上的性能提升有限——在RESIDE-OTS数据集(313,950对训练图像)上,DehazeSNN-L仅达到33.69 PSNR,低于DehazeFormer的34.95 PSNR和MAXIM-2S的34.19 PSNR。这表明轻量化模型在处理大规模复杂数据集时,其特征捕获能力仍存在瓶颈,难以充分学习海量数据中的复杂模式。其次,DehazeSNN的性能高度依赖OLIFBlock的设计,其正交分组策略(水平和垂直方向)虽然有效,但可能无法捕获其他方向的特征模式,对于具有复杂雾分布模式的场景可能效果受限。第三,论文仅评估了PSNR和SSIM两个指标,未涉及感知质量指标(如LPIPS、FID)和实际应用指标(如推理速度、内存占用),难以全面评估模型在实际部署中的表现。第四,消融实验仅在RESIDE-6K数据集上进行,而非更主流的RESIDE-ITS数据集,实验设置的代表性有待加强。第五,虽然作者声称DehazeSNN计算效率高,但未提供实际的推理速度对比数据,无法验证其在实际硬件上的加速效果。
独立分析的弱点
独立分析DehazeSNN的弱点,可以发现以下几个具体问题及改进方向:(1)正交分组策略的局限性——当前OLIFBlock仅采用水平和垂直两个方向的分组,这种固定的正交分解可能无法有效捕获对角线方向或其他复杂模式的特征。改进方向可以探索自适应方向学习机制,让网络自动学习最优的分组方向,或者增加更多方向的分支(如45°、135°)来增强特征表达能力。(2)模型容量与数据规模的不匹配——实验表明DehazeSNN在小规模数据集(ITS)上表现优异,但在大规模数据集(OTS)上性能下降。这暗示模型的表达能力可能受限于其轻量化设计。改进方向可以探索动态模型缩放策略,根据数据规模自动调整模型容量,或者采用渐进式训练策略逐步增加模型复杂度。(3)损失函数设计的简单性——当前采用固定的L1+LPIPS组合,权重为0.5:0.5。改进方向可以探索自适应权重调整策略,如基于课程学习的权重调度,或引入任务特定的感知损失(如边缘保持损失、结构相似性损失)。(4)缺乏对实际部署场景的评估——未考虑模型量化、剪枝、蒸馏等压缩技术对SNNs特性的影响。改进方向可以探索如何将SNNs的脉冲特性与模型压缩技术相结合,进一步降低实际部署成本。
未来方向
基于DehazeSNN的成果,可以延伸出以下未来研究方向:(1)SNNs在其他底层视觉任务中的应用——本文证明了SNNs在图像去雾中的潜力,类似的轻量化设计理念可以推广到图像去噪、超分辨率、去模糊、图像增强等其他图像复原任务。特别是那些对计算效率要求高的实时应用(如视频增强、移动端图像处理)可能成为SNNs的理想应用场景。(2)神经形态硬件部署——SNNs天然适合在神经形态芯片(如Intel Loihi、IBM TrueNorth)上运行,未来可以探索DehazeSNN在这些专用硬件上的实际部署效果,可能实现比GPU更高的能效比。(3)混合架构设计——将SNNs与传统ANNs结合,利用SNNs的高效计算处理部分层或模块,同时保留ANNs的强大表达能力处理复杂特征,可能实现更好的性能-效率权衡。(4)自适应脉冲机制——当前OLIFBlock使用固定的阈值 $V_{th}$ 和衰减系数 $\tau$(均为0.25),未来可以探索自适应的脉冲策略,让网络根据不同输入特性动态调整这些参数。(5)多任务联合学习——将去雾与深度估计、语义分割等任务联合训练,可能提升各任务的性能并实现更好的特征共享。论文作者也提到将探索DehazeSNN架构在更多图像复原任务中的应用。
复现评估
从复现性角度评估,DehazeSNN具有较好的可复现条件:首先,论文明确声明代码已在GitHub公开(https://github.com/HaoranLiu507/DehazeSNN),这大大降低了复现门槛。其次,训练细节描述完整——使用PyTorch框架,AdamW优化器,初始学习率 $5 \times 10^{-5}$($V_{th}$和$\tau$参数)和 $1 \times 10^{-4}$(其余参数),衰减至 $1 \times 10^{-6}$,指数衰减率 $\beta_1=0.9$,$\beta_2=0.999$,patch size 256×256,batch size 4(L)或5(M),这些参数都明确给出。第三,数据集使用公开基准——RESIDE和RS-Haze均为广泛使用的去雾基准数据集,易于获取和标准化。第四,计算资源需求适中——仅需单张NVIDIA GeForce RTX 4090 GPU即可训练,这是许多研究机构都能提供的硬件条件。第五,模型架构细节清晰——TABLE IV给出了完整的配置参数,包括块数、嵌入维度、MLP比率、LIF参数等,便于精确复现。潜在的复现挑战可能在于SNNs的实现细节,特别是OLIFBlock的正交分组迭代机制和连续输出替代二值脉冲的具体实现,需要仔细参照代码。
论文图表
Table I列出了17种去雾方法在RESIDE-ITS和RESIDE-OTS数据集上的PSNR、SSIM、参数量和MACs。DehazeSNN-M在ITS上达到40.10 PSNR/0.995 SSIM(2.70M参数/26.28G MACs),DehazeSNN-L达到41.26 PSNR/0.996 SSIM(4.75M参数/37.27G MACs)。DehazeSNN-L是唯一PSNR超过41的方法,同时参数量和MACs远低于性能相近的方法(如DehazeFormer: 25.44M/279.7G)。表格按时间顺序排列了从2010年DCP到2024年UCL-Dehaze的方法,展示了去雾领域的技术演进。
这是最核心的定量结果表格,完整呈现了DehazeSNN与所有对比方法的性能对比,是评估本文贡献的主要依据
Table II对比了12种方法在RESIDE-6K混合数据集上的表现。DehazeSNN-M达到30.07 PSNR/0.973 SSIM(2.70M参数/26.28G MACs),DehazeSNN-L达到30.77 PSNR/0.975 SSIM(4.75M参数/37.27G MACs)。DehazeSNN-L的性能与Bi-Dehazing(30.71/0.975,8.054M参数)相当,但参数量减少41%。该数据集包含室内和室外图像的混合,更能反映模型的泛化能力。
该表格展示了DehazeSNN在混合数据集上的表现,验证了其跨场景的泛化能力
Table III对比了8种方法在RS-Haze遥感去雾数据集上的表现。DehazeSNN-M达到38.95 PSNR/0.970 SSIM(2.70M参数/26.28G MACs),DehazeSNN-L达到39.14 PSNR/0.971 SSIM(4.75M参数/37.27G MACs)。DehazeSNN显著超越了AECR-Net(35.69/0.959)和Restormer(32.94/0.958),同时参数量和MACs大幅低于对比方法。遥感图像的雾分布高度不均匀,该数据集的结果验证了DehazeSNN处理复杂雾分布的能力。
该表格展示了DehazeSNN在遥感去雾任务上的性能,验证了其在专业应用场景中的竞争力
Table IV列出了DehazeSNN-M和DehazeSNN-L的具体架构配置:块数分别为[8,12,16,12,8]和[8,16,32,16,8],嵌入维度均为[24,48,96,48,24],MLP比率均为4,LIF初始 $\tau$ 和 $V_{th}$ 均为0.25。这些参数决定了模型的容量和计算特性。DehazeSNN-L通过增加中间阶段的块数(从12增加到32)来增强特征提取能力,同时保持嵌入维度和LIF参数不变。
该表格提供了复现模型所需的关键超参数配置,是理解DehazeSNN-M和DehazeSNN-L差异的基础
Table V展示了各组件对DehazeSNN性能的贡献。基准模型(无SKfusion和OLIFBlock)为25.69 PSNR/0.938 SSIM(1.77M参数/17.52G MACs),添加SKfusion后基本不变(25.70/0.939,1.76M/17.38G),添加OLIFBlock后大幅提升至29.88/0.971(2.70M/26.43G),完整DehazeSNN-M达到30.07/0.973(2.70M/26.28G)。消融实验证明OLIFBlock是性能提升的关键驱动力,贡献了4.19 dB的PSNR提升。
消融研究是理解各组件贡献的关键证据,特别是证明了OLIFBlock的核心作用
Table VI对比了不同损失函数组合的性能。单独使用L1损失达到28.91 PSNR/0.962 SSIM,单独使用LPIPS损失为26.57/0.941,两者组合(0.5L1+0.5LPIPS)达到最优的30.07/0.973,调整权重(0.7L1+0.3LPIPS)后性能下降至29.02/0.967。结果表明L1和LPIPS损失的互补性——L1损失关注像素级准确性,LPIPS损失关注感知质量,两者平衡使用效果最佳。
该表格展示了损失函数选择对最终性能的影响,为训练策略提供了重要参考
Table VII探索了LIF神经元分组数 $g$ 对性能的影响。当 $g=2$ 时达到29.26 PSNR/0.969 SSIM,$g=4$ 时达到最优的30.07/0.973,$g=6$ 时下降至28.95/0.963。结果表明分组数过少($g=2$)无法充分捕获空间信息,过多($g=6$)则可能导致过拟合或计算冗余,$g=4$ 是最优平衡点。
该表格展示了超参数选择对性能的影响,帮助理解OLIFBlock设计的最优配置