SGDC：结构引导的动态卷积用于医学图像分割 SGDC: Structurally-Guided Dynamic Convolution for Medical Image Segmentation
用Sobel监督分支替代池化，引导动态卷积核生成，提升边界精度。
前置知识
动态卷积（Dynamic Convolution）
传统卷积核权重在训练后即固定，而动态卷积在推理时根据输入动态生成卷积核参数。CondConv（Yang et al., 2019）针对每张图像生成一组全局核，Involution（Li et al., 2021）则针对每个空间位置生成像素级核。生成过程通常借助一个参数预测网络（kernel prediction network），其输入是经过池化或邻域聚合的上下文向量。
SGDC 是动态卷积家族的最新成员，读者必须先理解'kernel 由输入条件化生成'这一基本范式，才能体会本文为何要在生成路径上动手脚。
自适应平均池化（Adaptive Average Pooling）
一种将任意尺寸特征图压缩为固定尺寸的池化操作，常用于把 H×W×C 特征压成 1×1×C 的全局描述符。在 Involution/Contmix 等动态卷积中，它被用来为每个空间位置聚合一个邻域上下文，从而作为动态核的生成条件。
本文反复指出'pooling trap'：池化在聚合上下文时不可避免地抹平高频边界信息，这是 SGDC 要解决的核心问题。
边界监督（Edge Supervision）
在分割任务中常见的辅助任务：通过一个额外分支预测二值边界图，并用 BCE/Dice 损失直接监督。Lin et al. 的 CTO 等方法将边界信息作为注意力图或多通道特征拼回主分支，以增强边界精度。
SGE 借鉴了显式边界监督思路，但首次把'边界特征'用作动态卷积核的生成条件，而非简单相加或单通道相乘，这是理解 SGDC 关键创新所需的背景。
Sobel 算子
经典的固定梯度算子，水平核 $K_x$ 与垂直核 $K_y$ 均为 3×3 大小，通过卷积提取图像在两个方向的强度梯度 $\sqrt{(F*K_x)^2+(F*K_y)^2}$。它不需要训练，输出对几何边缘具有稳定的单响应。
SGE 把 Sobel 作为'结构性锚点'（structural anchor）注入网络，读者需了解 Sobel 输出来源及其与 Laplacian 等二阶算子的差别，才能理解为何选 Sobel 而不是 Laplacian。
Hausdorff 距离（HD95）
分割评价指标。给定预测集合 $P$ 与真值集合 $G$，HD95 取所有最近邻距离的 95 百分位以抑制离群点，单位为像素。它比 Dice/IoU 更敏感地反映边界对齐度。
本文最看重的指标就是 HD95，从 32.63 降到 16.09 的降幅几乎是 Dice/IoU 提升的两倍之多，是判断结构保持能力的核心证据。
研究动机
医学图像分割（如皮肤镜病灶、细胞核）要求同时具备大感受野（用于语义理解）和高空间分辨率（用于精确描边），两者天然冲突。现有两大主流思路均存在明显缺陷：第一，显式边缘监督类方法（如 CTO）虽然引入了辅助边界分支，但常用单通道注意力图或简单拼接/相加作为融合机制，前者构成严重的信息瓶颈，后者会让高频细节被后续卷积抹平；第二，空间变体动态卷积类方法（如 Involution、Contmix）虽然能逐像素生成卷积核，但几乎无一例外地依赖自适应平均池化来生成 kernel 上下文，而池化操作本质上是低通滤波器，会把高频边界细节隐式折叠为粗糙的空间压缩表征，造成所谓"过平滑"问题。论文给出的量化证据是：仅用 Res2Net+ViT 的基线在 ISIC 2018 上 HD95 高达 32.63，Dice 仅 89.57%；即使加入显式边界监督，HD95 仍有 18.58，表明语义特征本身已被训练为类内一致的低频信号，用它驱动核生成形成"用已被平滑的特征去恢复细节"的悖论。
本文的目标是论文目标明确：提出一种完全摆脱平均池化的动态卷积机制 SGDC，并配套设计一个独立监督的边界提取器 SGE，使动态核与门控信号由"显式、高保真、与边界对齐的结构先验"直接驱动。整体期望是：在不显著增加参数量（75.88M，介于 UNet v2 的 25M 和 TransUNet 的 114M 之间）的前提下，让 ISIC 2018/2016/PH2/CoNIC 四个数据集上 Dice、IoU、HD95 全面刷新 SOTA，并以 HD95 的显著下降作为"边界保真度"的核心证据。
与已有工作不同的是，本文的独特切入角度可以概括为三点：第一，区别于 CTO 等只在融合阶段引入边界的做法，本文把结构先验"前置"到动态卷积核的生成路径中，作为条件信号而非额外输入；第二，区别于 Contmix 等仍依赖池化的动态卷积，SGDC 完全去掉池化，用 1×1 卷积直接由 (FX + Fguidance) 逐像素预测核权重，避免低通滤波；第三，区别于把 Sobel 当作可学习分支的方案，SGE 选用固定的非可训练 Sobel 算子并辅以显式 BCE/Dice 监督，让结构先验既稳定又有梯度对齐能力。这一组合形成了"显式结构信号 + 无池化动态核 + 双分支特征精炼"的差异化路线。
核心方法
SGD-Net 采用经典的 encoder-decoder 拓扑：编码器是 ImageNet 预训练的 Res2Net-50，最浅层特征经过稀疏采样的 ViT（仅贡献 8.07 GFLOPs）和 8×8 分辨率上的 Dual Attention（2.01 GFLOPs）以补足全局语义。编码阶段每层产出的特征被同时送往两个新模块：SGE 接收最深语义特征与最浅高分辨率特征，用固定 Sobel 算子提取结构梯度后做边缘调制 $\sigma(F_{in}*K_x)^2 + (F_{in}*K_y)^2$ 的开根式，再经 3×3 卷积融合并解耦为单通道边界图（受 Egt 监督）和多通道结构引导 Fguidance；SGDC 则接收编码器主特征 $F_X$ 与 $F_{guidance}$，先相加后送入一个 1×1 参数预测头，逐像素吐出动态核权重 $W_{dyn}$ 与两个门控 $g_1, g_2$，再分别驱动"动态分支"（unfold→softmax 加权→fold，等价大核动态卷积）与"静态分支"（深度可分离 3×3 卷积），两路相加后接 FFN 形成残差块。解码器引入 reverse attention $1-\sigma(F_{up})$ 抑制病灶中心、聚焦边界，最终在三个尺度上输出分割预测。直觉上，这套设计相当于让网络"边看语义边看梯度图"，并由梯度图直接指挥卷积核的形状，从而同时拿到大感受野和细边界。
核心创新点是把"动态卷积核的条件信号"从被池化抹平的语义特征替换为被显式监督的结构先验，本质区别有三：(1) 与 CondConv/Involution/Contmix 不同，SGDC 完全跳过平均池化，参数预测头是一个逐像素的 1×1 卷积，输入是 $F_X + F_{guidance}$，保留了像素级空间信息；(2) 与 CTO 等边缘监督方法不同，边界信息不再被压成单通道注意力图或简单拼接，而是以多通道形式注入核生成路径，参与决定每个空间位置的卷积核本身，使结构信息具备"调制权重的权重"这一更深的杠杆作用；(3) 与朴素动态卷积不同，SGDC 设计了"动态分支 + 静态深度可分离分支"双路互补，动态分支擅长长程结构塑形，静态分支充当确定性高频安全网，避免纯动态算子在均匀区域出现空间不稳定。
方法步骤详情
完整方法可拆解为四步。第一步是特征提取：Res2Net-50 生成四级特征，最浅层送 ViT 编码捕获长程依赖，最深层经 Dual Attention 强化全局语义，对应 8.07 与 2.01 GFLOPs。第二步是结构引导提取 SGE：把浅层 $F_{shallow}$ 与经 1×1 卷积降维的深层 $F_{deep}$ 同时送入 Sobel 卷积，按公式 $F_{mod}=F_{in}\odot\sigma\sqrt{(F_{in}*K_x)^2+(F_{in}*K_y)^2}$ 调制边缘响应，拼接后经 3×3 卷积融合，最终由两个独立 1×1 卷积头解耦为单通道边界图 $\hat{e}$（用 Egt 监督）与多通道 $F_{guidance}$（送 SGDC）。第三步是 SGDC 特征精炼：先把 $F_X$ 与 $F_{guidance}$ 相加后输入 1×1 参数头，得到 $W_{dyn}, g_1, g_2$，经 LayerNorm 后两路并行——动态分支用 unfold 把 $F_X'$ 展开为 7×7 局部 patch，由 $softmax(W_{dyn})$ 加权求和后 fold 回去并乘以 $g_2$；静态分支把 $F_X'$ 乘以 $g_1$ 后做 3×3 深度卷积；两路相加再经残差接 FFN，公式化为 $F_{out}=FFN(LN(F_X+F_{mix}))+(F_X+F_{mix})$。第四步是解码与多任务监督：每层解码器应用 reverse attention $1-\sigma(F_{up})$，在三个尺度输出分割预测 $\{o_1,o_2,o_3\}$，最终损失 $\mathcal{L}_{total}=\sum_{i=1}^{3}\mathcal{L}_{seg}(o_i,M_{gt})+\lambda\cdot\mathcal{L}_{edge}(\hat{e},E_{gt})$，其中 $\mathcal{L}_{seg}=BCE+Dice$，$\mathcal{L}_{edge}=Dice$，$\lambda=3$。
技术新颖性
技术新颖性体现在三个层面的耦合设计。模块层面，SGDC 提出"平均池化自由的动态卷积"骨架，把 1×1 参数预测 + unfold-fold 动态分支 + 静态深度可分离分支 + FFN 残差组合成新原语，与 Contmix 共享思路但彻底删除 pooling，使其在 $7\times 7$ 邻域动态核之外还保留 $3\times 3$ 静态核作为高频锚点。结构层面，SGE 把"任务解耦"思想首次显式用在结构引导分支上——同一输入分两个监督头分别预测尖锐边界图和丰富引导特征，规避了单通道注意力的瓶颈，又避免简单拼接被后续卷积抹平。先验层面，选用固定的 Sobel 算子而非可学习卷积作为梯度提取器，并在 Table 6 中通过对比 Laplacian/Scharr/Learnable Conv 证明：固定一阶梯度算子提供"客观、与语义解耦"的几何先验，比可学习算子更稳定，比二阶 Laplacian 更不易受纹理干扰。这些设计共同把"边界保真"从损失函数层面的正则项升级为动态核生成机制本身的一部分。
实验结果
论文在四个数据集上一致拿到 SOTA。ISIC 2018（5 折交叉验证）上，SGD-Net 取得 Dice $91.41\pm 0.24\%$、IoU $84.96\pm 0.13\%$、HD95 16.09，相对最强基线 CTO（Dice 90.63、IoU 83.97）Dice 提升 0.78、IoU 提升 0.99，HD95 更是从 CTO 未给出但 TransUNet 体系的高位水平直降到 16.09，比仅加 SGE 的中间版本 18.58 再降 2.49。跨数据集泛化 ISIC 2016→PH2 上，Dice $92.93\%$、IoU $87.29\%$，比 CTO 的 92.56/86.60 分别高 0.37/0.69。CoNIC 上同时拿下 Dice $81.61\%$、IoU $69.46\%$、PQ $68.79\%$ 三项第一，相对第二名 CTO（80.67/67.97/67.17）Dice 提升 0.94、IoU 提升 1.49、PQ 提升 1.62。Table 4 的模块消融验证了"显式结构先验"的因果链：(1) 仅 Res2Net 时 HD95=30.54；(2) 加 ViT 后 HD95 不降反升至 32.63，说明语义补充反而模糊了边界；(3) 加入 SGE 后 HD95 骤降 14.05 至 18.58，证明显式结构先验承担了主要边界精度贡献；(4) 用 Contmix 替代 SGDC 反而把 HD95 拉高到 24.21，验证了"pooling trap"；(5) 完整 SGD-Net 把 HD95 再压到 16.09，验证 SGDC 优于加法融合。Table 5 的内部消融进一步说明：去掉边界监督时 Dice 掉到 90.37（HD95 反弹至 23.51）但仍优于基线，证明固定 Sobel 提供了客观先验；改用 Self-Guidance 时 HD95 升到 21.34，证实显式结构信号是关键；去掉静态分支 HD95 升到 18.95，去掉动态分支 Dice 跌到 89.92，体现两路互补。Figure 2 的定性结果显示，在皮肤镜低对比度病灶和密集细胞核场景下，SGD-Net 的结构引导图（Col. 5）能给出锐利的高对比响应，而 CTO 的边界预测（Col. 6）则明显模糊分散。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| ISIC 2018 皮肤镜病灶分割（5 折交叉验证） | Dice (%) | 91.41 ± 0.24 | CTO 90.63 / VM-UNet V2 90.79 / UNet v2 90.47 | 相对最强基线 CTO 提升 0.78% |
| ISIC 2018 皮肤镜病灶分割（5 折交叉验证） | IoU (%) | 84.96 ± 0.13 | CTO 83.97 / VM-UNet V2 83.31 | 相对最强基线 CTO 提升 0.99% |
| ISIC 2018 皮肤镜病灶分割（5 折交叉验证） | HD95 (像素) | 16.09 | Res2Net+ViT 基线 32.63 | 绝对降幅 16.54，相对降幅约 50.7% |
| ISIC 2016 → PH2 跨数据集泛化 | Dice (%) | 92.93 | CTO 92.56 | +0.37% |
| ISIC 2016 → PH2 跨数据集泛化 | IoU (%) | 87.29 | CTO 86.60 | +0.69% |
| CoNIC 细胞核实例分割 | Dice (%) | 81.61 | CTO 80.67 | +0.94% |
| CoNIC 细胞核实例分割 | IoU (%) | 69.46 | CTO 67.97 | +1.49% |
| CoNIC 细胞核实例分割 | PQ (Panoptic Quality, %) | 68.79 | CTO 67.17 | +1.62% |
局限与改进
作者在文中明确了几点限制：第一，结构引导的质量高度依赖 Egt 标注的精度与形态学梯度的厚度，论文固定为 3 像素，对厚度敏感的细结构（如毛细血管）可能需要重新调参；第二，Table 6 显示 Laplacian 在 ISIC 2018 上 Dice 反而比 Sobel 高 0.70（92.11 vs 91.41），但 Sobel 被选用是因为 Laplacian 的二阶零交叉双响应易受纹理干扰，且在 CoNIC 上退化，这说明 Sobel 选择是稳定性与精度的折中而非绝对最优；第三，SGD-Net 参数规模 75.88M、FLOPs 36.23G 仍属偏大，相比 UNet v2（25.15M、5.40G）和 VM-UNet V2（17.91M、4.40G）部署成本高出数倍。从读者视角还可以补充两点：(a) 文中所有训练均在单卡 L4 GPU 上 50 个 epoch 完成，但未给出每 epoch 训练耗时与显存占用，部署到边缘设备或 3D 体数据时未必可行；(b) 论文只在 2D 皮肤镜与细胞核上验证，对 3D CT/MRI、体素级不均衡类别、域偏移（不同医院设备）等场景的迁移性尚未给出证据。
独立分析的弱点
独立分析下有三个值得关注的弱点。其一是 SGE 的 Sobel 假设过强：固定算子无法适应不同成像模态的强度分布，例如 MRI 不同序列（TI/T2/Flair）的边缘对比度差异很大，固定梯度阈值会把低对比度病灶的弱边缘一并滤掉，Table 6 中 Learnable Conv 仍有 89.85 Dice 表明可学习算子在某些模态可能更优，建议加入模态感知的可学习系数或自适应阈值。其二是 SGDC 双分支设计虽然带来稳定增益，但 1×1 参数预测头 + unfold(7×7) + fold 的组合使每像素生成 49 个权重再加 2 个门控，对 256×256 输入的浅层会带来显著显存开销，文中并未报告 FLOPs 在不同分辨率层的分布与显存峰值，部署到高分辨率或 3D 数据时可能成为瓶颈。其三是边界监督权重 $\lambda=3$ 是经验值且与"三尺度分割头"数量绑定（Table 7 显示 $\lambda\in\{0,1,5\}$ 时性能均下降），这种隐式耦合使方法对 decoder 头数变化敏感，建议未来引入不确定性加权（Kendall et al.）或多任务梯度归一化让超参自适应。
未来方向
作者明确提到将 SGDC 推广到小目标检测等"结构敏感"任务。读者视角下还有四条可延伸方向：(1) 把 Sobel 替换为可微分结构张量（structure tensor）或各向异性 Sobel，让梯度算子具备模态自适应能力；(2) 把 SGDC 推广到 3D 体数据，用 3D unfold-fold 替换 2D 版本，并设计三向梯度算子提取体素级结构；(3) 把 SGE 与自监督预训练结合，例如先用 Sobel 边缘做 masked image modeling，让结构先验在大规模无标注数据上学得更鲁棒；(4) 将 SGDC 与实例分割头结合，论文已在 CoNIC 的 PQ 指标上达到 68.79，证明结构引导对实例级边界同样有效，可进一步嵌入 Mask R-CNN、SAM 等框架扩展到通用域。
复现评估
复现友好度较高。代码已在 GitHub 公开（https://github.com/solstice0621/SGDC），仓库名 solstice0621/SGDC 包含 SGE 与 SGDC 两个模块的实现。论文给出了几乎所有关键超参与训练细节：Adam 优化器，初始学习率 $1\times 10^{-4}$，多项式衰减，batch size 16，输入 $256\times 256$，50 epoch，ImageNet 预训练 Res2Net-50 初始化，单卡 NVIDIA L4 GPU。数据增强使用 Albumentations 的随机翻转与 $\pm 20^\circ$ 旋转。边界真值 Egt 通过膨胀减腐蚀的形态学梯度生成，固定厚度 3 像素。SGDC 内部 unfold-fold 邻域核为 $7\times 7$。唯一略有歧义的是 Dual Attention 模块的具体实现（论文未给出引用）以及 $\lambda=3$ 之外的自适应调度策略，复现者可能需要参考作者过往工作来定位 Dual Attention 来源。整体而言，复现难度为中等，主要工作量集中在 SGE 边缘调制公式与 SGDC unfold-fold 路径的工程实现。
论文图表