SLER-IR：用于一体化图像复原的球面层级专家路由框架 SLER-IR: Spherical Layer-wise Expert Routing for All-in-One Image Restoration

完整方法分四步。第一步，特征提取与路由向量构造：取 Content CLIP 编码器的全图 CLS token $\mathbf{c}$ 与 patch token $\mathbf{T}_c$；取 Degraded CLIP 编码器对全图的 CLS token，送入 MLP 后做 L2 归一化得到层级路由向量 $\mathbf{f}=\mathrm{L2}(\mathrm{MLP}(\mathrm{CLIP}(x)))\in\mathbb{R}^{K\times d}$。同时为专家中心 $\mathbf{C}\in\mathbb{R}^{C\times d}$ 也做 L2 归一化，使其落在单位超球面上，并通过 Monte Carlo 采样 + 均匀性约束让中心在球面上彼此互不相似（spherical-code 性质）。第二步，路由门控决策：在第 $l$ 层计算余弦相似度 $\mathrm{Sim}_{i,j}=\mathbf{f}_i^\top\mathbf{C}_j^\top/(\|\mathbf{f}_i\|_2\|\mathbf{C}_j\|_2)$，行 softmax 得概率 $\mathbf{p}_{i,:}=\mathrm{Softmax}(\mathrm{Sim}_{i,:})$。Stage 1 用软概率让所有专家收梯度，配合 $\mathcal{L}_1 + \alpha\cdot\mathcal{L}_{HC,l}$ 联合优化 15 epoch；Stage 2 冻结 router，按 $y_i=\arg\max_j \mathbf{p}_{i,j}$ 硬选专家，只用 $\mathcal{L}_1$ 再训 80 epoch。第三步，球面退化对比学习：在每一层对归一化后的样本对相似度 $S_{i,j,l}=\hat{\mathbf{f}}_{i,l}^\top\hat{\mathbf{f}}_{j,l}$ 计算 triplet contrastive loss $\mathcal{L}_{HC,l}=\max(0,\mathbb{E}_N[S]-\mathbb{E}_P[S]+\lambda)$，整体损失 $\mathcal{L}=\mathcal{L}_1 + \alpha\cdot\mathcal{L}_{HC}$（默认 $\alpha=1, \lambda$ 为 margin），迫使同类退化在球面上聚集、异类均匀分开。第四步，GLGF 注入：GLMC 把全图 Content CLIP 的 CLS token 经 MLP 投影生成 $(\gamma,\beta)$ 对 patch token 做 FiLM 调制得 CSP map；同时把 4×4 crop 各自的退化 CLS token rearrange 成 $E\in\mathbb{R}^{4\times 4\times d}$，上采样到 patch 网格得 DSP map $D\in\mathbb{R}^{H\times W\times d}$。CGDF 用 cross-attention（prior 的 query、patch 的 K/V）融合得 patch 级复原先验 $\mathbf{F}'$，再以引导 cross-attention 注入到第 $l$ 层复原特征 $\mathbf{F}_l$，实现局部自适应的复原。

技术新颖性可以从四个维度看。第一，把 MoE 从「局部模块替换」提升到「层级 backbone 全替换」，并显式枚举 $3^8=6561$ 条组合路径，把 all-in-one 复原从 prompt 微调范式推进到 compositional inference 范式，这在之前的工作中没有完整做过。第二，把退化表征显式约束到单位超球面上并提出 hyperspherical uniform embedding + triplet contrastive loss 的组合，专门解决 class-distance bias 问题，论文 Fig.5(b) 给出反例并量化说明偏差如何误导相似度门控。第三，训练流程上提出两阶段概率→确定性路由切换，避免了硬路由早期多数专家得不到更新的「专家饥饿」问题，是工程上能稳定跑通五任务复原的关键。第四，GLGF 模块首次把「训练 crop 与全分辨率推理的粒度差异」以及「空间非均匀退化」这两点通过 4×4 grid + content FiLM + cross-attention prior 注入的方式系统解决，给后续 all-in-one 复原工作开辟了一个新的模块设计方向（content-guided degradation fusion）。四个点叠加之后才让 SLER-IR 在 PSNR/SSIM 上系统性地超过 MoCE-IR、VLU-Net 等最新基线。

独立分析可以看到几处可以打磨的地方。1）路由可解释性弱：论文给出 $\arg\max$ 的硬选专家索引，但没系统分析「哪种退化→哪类专家路径」的对应关系，Fig.4 只放了可视化未量化路径分布。改进方向是增加专家路径混淆矩阵或频率统计，让 routing 的语义可被审计。2）GLGF 的 4×4 grid 划分过粗，对雨线、刮痕这类细长局部退化，16 个 crop 的 CLS token 粒度不够，容易漏检小区域；可改进为可学习的 adaptive grid 或 attention-based sparse pooling。3）专家中心更新用 Monte Carlo + 均匀性约束，没有可学习的中心漂移率，路由中心可能在长尾退化下塌缩；可考虑 EMA 动量更新或加一个 anti-collapse 正则。4）损失权重 $\alpha$ 与阶段切换 epoch 都是 grid search 超参，对新任务组合需要重调；可改成 cosine ramp 或基于 router entropy 的自适应切换。5）CLIP 编码器在推理时占显存与耗时都不小，论文没有报告其相对主干的开销比例，对实时部署是个隐忧；改进方向是蒸馏一个轻量退化编码器。6）评测只覆盖 5 类合成退化，对真实世界复合退化（雨+低光、夜景雾、噪声+运动模糊）没有给出野外数据测试，复合退化的实际增益只能从 Table 2 的间接对比推断，需要补充 paired real-world benchmark。

作者明确给出的后续方向是「Code and models will be publicly released」以及把球面退化嵌入推广到其他视觉任务。除此之外，结合本文成果可延伸出几条值得探索的方向：第一，把球面 expert routing 与稀疏激活（top-1 + 共享 expert）结合，在保持 $3^8$ 路径多样性的同时降低推理 FLOPs；第二，用 hyperspherical embedding 替换 CLIP，直接学习一个 task-agnostic 的退化编码器（如基于 ConvNeXt 或 Mamba），去掉对 CLIP 域的依赖，扩展到非自然图像；第三，引入 contrastive routing memory bank 跨 batch 维护负样本，进一步拉开退化类间距离；第四，把 GLGF 的 4×4 crop 划分替换为可学习的多尺度 grid（如 4×4、8×8、16×16 混合），处理不同尺度的局部退化；第五，把两阶段概率→确定性路由扩展为端到端可微 sparse routing（GSmooth / DSDP），避免 stage 切换的人为超参；第六，在下游高层任务（目标检测、分割、跟踪）上验证 SLER-IR 复原是否带来一致的感知增益，而非只看 PSNR/SSIM；第七，与大视觉-语言模型结合，让退化表征具备语言可解释性，支持用户用自然语言指定退化类型。

复现性整体中等偏上。架构层面作者沿用 PromptIR 的 4-level encoder-decoder（block 数 $[4,6,6,8]$），与公开代码风格兼容；训练超参清晰（Stage 1: 15 epoch, batch 10；Stage 2: 80 epoch, batch 20；Adam $\beta=(0.9,0.999)$，初始 lr $2\times 10^{-4}$ cosine decay；对比损失 $\alpha=1$、专家数 $C=3$）。但有几个潜在阻碍：1）作者声明「Code and models will be publicly released」但截至阅读时未给出 GitHub 链接，实际公开与否不可知；2）硬件依赖 H20 GPU，且 Stage 1+Stage 2 共 95 epoch，五任务联合训练的实际时长未披露，复现者算力门槛不低；3）依赖 Degraded CLIP 与 Content CLIP 两个 CLIP 编码器，具体使用何种 CLIP backbone（ViT-B/16? ViT-L/14?）以及是否微调、是否冻结未说明，会显著影响结果；4）4×4 crop 划分、FiLM 调制、cross-attention prior 注入的工程细节需要从正文推断，可能存在隐性实现 trick；5）消融只在五任务上做，三任务与复合退化的进一步消融缺失。综合判断：拥有 PromptIR/Restormer 复现经验、且能访问 H20/A100 集群的研究者可以较高效地复现主线结果，但要完全一致复现 Table 1/2 的具体数字仍需对 CLIP 选择、初始化种子、batch 内多任务采样概率做对齐。