在类别不平衡的CT身体成分分割中分离采样策略与训练预算的影响

揭示训练迭代预算是采样策略比较中的关键混淆因素

前置知识

类别不平衡

在分类或分割任务中，不同类别的样本数量差异极大的现象。在医学图像分割中，背景和大型解剖结构可能占据90%以上的像素，而小组织或病变可能不到1%。这导致模型倾向于预测多数类，忽略少数类。梯度更新由多数类主导，少数类得到的梯度更新很少。

本文核心研究对象，所有采样策略都是为了缓解类别不平衡问题

Dice系数

用于评估分割质量的指标，计算公式为Dice = (2|X intersect Y|)/(|X| + |Y|)，其中X是预测区域，Y是真实区域。取值范围0到1之间，1表示完全重叠。相比IoU，Dice对不平衡类别更友好。

本文主要评估指标，所有实验结果都用Dice分数报告

Episodic Sampling

源自少样本学习的批次构建策略。每个episode先采样NC个前景类别，然后对每个类别采样NS个support切片和NQ个query切片。类别均匀采样而非按频率采样，使稀有类别和频繁类别以等概率出现，从而在训练过程中实现近似的类别平衡曝光。

本文核心方法，与传统的随机采样和加权采样形成对比

身体成分分割

从CT图像中分割不同的肌肉和脂肪组织，用于评估患者的营养状况、肌肉萎缩程度等。本文分割9个组织类别：竖脊肌(ESM)、肌间脂肪(IMAT)、胸肌(PEM)、腰大肌(PSM)、腰方肌(QLM)、腹直肌(RAM)、皮下脂肪(SAT)、骨骼肌(SM)、内脏脂肪(VAT)。

本文的应用任务，天然存在极端类别不平衡，小肌肉如腰大肌与大面积脂肪如SAT的像素数量相差几个数量级

训练迭代预算

模型训练过程中总的梯度更新次数。在epoch-based训练中，每个epoch包含固定数量的迭代（等于批次数量）。当不同采样策略的每个epoch迭代次数不同时，epoch数相等的条件意味着实际的迭代次数不同，这会引入混淆因素。

本文的核心发现，揭示了采样策略比较中的关键混淆因素

研究动机

医学图像分割中类别不平衡是根本性挑战，常见类别主导训练，稀有类别被忽视。现有缓解方法分为两类：基于损失的方法（如加权交叉熵、Dice loss、Focal loss）在批次内重新加权每个像素的损失；基于采样的方法（如加权采样、过采样或欠采样）控制哪些图像进入批次。然而，这两类方法都没有显式控制批次内出现哪些类别，稀有类别仍然嵌入在主导类别的上下文中，每个体素的梯度信号仅得到部分重新平衡。在CT身体成分分割中，这个问题尤为严重，大型脂肪和肌肉腔室与小的、空间局限的结构共存，类别的频率在每个扫描内相差几个数量级。

本文的目标是将episodic batch构建从度量学习中解耦出来，在标准监督训练中应用episodic采样，并比较其与随机采样和加权采样在两种训练数据制度下的性能。更重要的是，本文旨在识别训练迭代预算作为采样策略比较中未被充分认识的混淆因素，并揭示在匹配迭代预算后，不同采样策略的真实性能差异。

与已有工作不同的是，现有工作调整单个图像被抽入批次的频率，要么是为了补偿类别不平衡，要么是为了减少梯度方差，但每个批次内的类别组成没有得到显式控制。更关键的是，采样策略比较通常以epoch指定训练计划，包括学习率里程碑、早停耐心和最大训练持续时间，隐式地将有效训练迭代预算与数据集大小耦合。当具有每epoch不同迭代次数的采样器在这样的计划下比较时，这种耦合引入了一个混淆因素。本文的独特切入角度是系统地解耦采样机制与训练预算，通过固定迭代和迭代校准的实验来分离两者的贡献。

核心方法

本文的核心思路是将少样本学习中的episodic sampling策略应用到完全监督的医学图像分割任务中，作为模型无关的、即插即用的批次构建策略来缓解类别不平衡。研究对比了三种采样策略：随机采样（均匀从训练池中抽取切片）、加权采样（根据切片中最稀有前景类别的频率倒数分配采样概率）和episodic采样（每个mini-batch作为一个episode构建）。为了隔离采样策略的效果，网络架构、损失函数和优化设置在所有实验中保持恒定。研究在两种数据制度下进行：使用所有标注卷的full-data制度，和通过患者级子采样保留10%的low-data制度。

核心创新点在于将episodic batch构建逻辑从度量学习上下文中解耦出来，作为独立的采样策略应用。与传统的基于损失的重新平衡和基于采样的图像级控制不同，episodic采样显式控制批次内的类别组成。每个episode采样NC个前景类别，对每个类别采样NS个support切片和NQ个query切片。由于类别均匀采样而非按频率采样，稀有类别和频繁类别以等概率作为episode目标出现，在训练过程中产生近似的类别平衡曝光。这个逻辑独立于度量学习和模型架构，可以在完全监督学习中即插即用。更重要的是，本文识别了训练迭代预算作为采样策略比较中的关键混淆因素，并通过匹配迭代预算的实验设计揭示了采样策略的真实效果。

方法步骤详情

方法步骤包括数据预处理、采样策略实现、网络训练和评估。数据预处理方面，使用210个来自公开SAROS数据集的CT扫描，定义了9个组织类别。所有扫描和分割图被标准化到右前上(RAS)解剖坐标系，然后沿纵轴裁剪到与身体成分分析相关的水平（最高检测到的胸椎T1到最低腰椎L4），总共产生10920个切片。采样策略实现方面，随机采样均匀从训练池中抽取切片；加权采样为每个切片i分配采样概率与1除以切片中最稀有前景类别的频率成正比；episodic采样中，每个epoch包含500个episodes，每个episode采样2个前景类别，对每个类别采样3个support切片和3个query切片。网络训练方面，使用来自nnU-Net实现的基准2D U-Net，编码器有6个级别，从基础特征宽度32通道开始，每个后续级别翻倍到最大480，每个级别包含两个卷积块（3乘3卷积、实例归一化和Leaky ReLU激活）。使用AdamW优化器，初始学习率0.0001，权重衰减0.01，学习率在epoch 30和45通过MultiStepLR调度器降低0.1倍。对于随机和加权采样，批次大小为16；对于episodic采样，训练包含每epoch 500个episodes。模型最多训练200个epoch，通过平均前景验证Dice触发早停（耐心20个epoch）。损失函数结合交叉熵和Dice loss，权重相等。评估方面，使用两个互补指标：用于量化区域重叠的Dice相似系数和用于量化边界准确率的95百分位Hausdorff距离(HD95)，每个前景类别单独计算指标。

技术新颖性

技术新颖性体现在三个方面：首次将episodic sampling从少样本学习的度量学习上下文中解耦，作为独立的采样策略应用到完全监督的医学图像分割；系统性地识别和量化了训练迭代预算作为采样策略比较中的混淆因素，这在医学图像分割领域此前未被充分认识；在匹配迭代预算的条件下揭示了不同采样策略的真实性能差异，发现episodic采样的优势主要来自更高的迭代预算，而非采样机制本身。与nnU-Net固定250000训练迭代的方法不同，本文展示了epoch-based调度器与采样策略的耦合如何引入混淆，并提出了迭代校准的调度方法来解耦。

**Fig. 3**: Per-class batch frequency per epoch for episodic, random, and weighted sampling

实验结果

核心发现分为三个层面：在full-data制度下，三种采样策略表现相当，episodic采样的平均Dice为0.882，随机和加权均为0.878，HD95方面episodic为6.77毫米，随机和加权分别为7.98毫米和7.80毫米。这种效果微弱与该制度下策略间近匹配的迭代预算一致（523 vs 500 iterations per epoch）。在low-data制度下，episodic采样的优势变得显著，平均Dice为0.787，随机为0.758，加权为0.762，在9个前景类别中的8个上性能提升，最大增益出现在最不常见的类别上（IMAT、QLM、PEM、PSM）。然而，episodic采样在low-data制度下每epoch运行12倍的训练迭代。固定3000迭代的实验显示，三种采样器收敛到相似性能（episodic 0.778 vs 随机 0.773 vs 加权 0.773平均Dice），episodic采样在9个类别中的5个上获得最高Dice（ESM、IMAT、PSM、RAM、SM）。迭代校准调度实验大幅缩小了采样器间的差距，随机采样从0.758提高到0.777，加权从0.762提高到0.778，episodic采样的优势从2.9个百分点缩小到1.0个百分点。episodic采样的残差优势与延迟过拟合一致：随机和加权采样较早达到最佳检查点并在此后显示上升的验证损失，而episodic采样继续改进大约三倍更多的迭代。

**Table 1**: Overview of the 210 publicly available scans from the SAROS dataset

**Table 2**: Performance of episodic, random, and weighted sampling on the held-out test set under full-data (100%) and low-data (10%) training

**Table 3**: Performance of episodic, random, and weighted sampling on the held-out test set under low-data (10%) fixed-iteration training

**Table 4**: Performance of episodic, random, and weighted sampling on the held-out test set under low-data (10%) iteration-calibrated training

**Fig. 4**: Representative segmentations at the L3 vertebral level

**Fig. 5**: Representative segmentations under low-data fixed-iteration and iteration-calibrated training

查看结构化数据

任务	指标	本文	基线	提升
CT身体成分分割（9类）	Dice系数（平均）	0.882 (full-data episodic)	0.878 (full-data random/weighted)	+0.4个百分点
CT身体成分分割（9类，10%数据）	Dice系数（平均）	0.787 (episodic, epoch-based)	0.758 (random, epoch-based)	+2.9个百分点（但含12倍迭代差异）
CT身体成分分割（9类，10%数据，固定迭代）	Dice系数（平均）	0.778 (episodic)	0.773 (random/weighted)	+0.5个百分点（迭代匹配后）
CT身体成分分割（9类，10%数据，迭代校准）	Dice系数（平均）	0.787 (episodic)	0.777 (random)	+1.0个百分点（迭代校准后）
CT身体成分分割（IMAT类别，10%数据）	Dice系数	0.667 (episodic, epoch-based)	0.618 (random, epoch-based)	+4.9个百分点（最稀有类别显著提升）
CT身体成分分割（9类）	HD95（平均，毫米）	6.77 (full-data episodic)	7.98 (full-data random)	-1.21毫米（边界精度提升）

局限与改进

作者承认的局限性包括：参考标注通过自动身体分割模型细化，可能引入标签噪声，需要多种子交叉验证；校准的调度以episodic采样的每epoch 500次迭代为锚点，没有探索替代的参考预算；评估限于单个任务、基准模型和损失配置。本文的观察包括：研究仅限于单一数据集（SAROS），样本量有限（210个扫描，测试集30个），统计功效可能不足；仅使用单一网络架构（2D U-Net）和单一损失组合（交叉熵加Dice），结论可能不适用于其他架构如3D U-Net或Transformer；仅评估了分割性能，没有分析推理效率或计算开销；没有探索episodic采样与其他正则化技术（如dropout、数据增强）的交互作用；没有提供可视化梯度方差或特征空间几何的分析，未能直接验证隐式正则化效果的假设。

独立分析的弱点

独立分析的弱点包括：方法层面的弱点，episodic采样需要为每个episode预先采样特定类别的support和query切片，这增加了数据加载的复杂性，可能在多GPU训练中引入同步开销；在极度不平衡场景下（如某类别占比小于0.1%），episodic采样可能仍然无法充分覆盖稀有类别的多样性；评估层面的弱点，仅使用Dice和HD95两个指标，没有考虑类别不平衡敏感的指标如F1-score、mIoU或特定于医学图像的评估；实验层面的弱点，固定3000迭代的实验可能过短，未能充分展示长期训练后的差异；应用层面的弱点，研究仅限于CT身体成分分割，未在MRI、X光等其他模态或器官分割、病灶检测等其他任务上验证。改进方向包括：实现更高效的episodic采样数据加载器，支持异步预取；在更极端的类别不平衡设置下评估episodic采样；添加更多评估指标如F1-score、mIoU、灵敏度或特异度；延长固定迭代实验的时长；在更多模态和任务上验证方法的泛化性。

未来方向

作者提出的未来方向包括：通过梯度方差分析、特征空间几何或校准指标来探索为什么episodic采样在匹配迭代预算下仍然保持优势；将episodic采样与随机或加权采样以及基于损失的重新平衡策略结合，可能产生互补增益；开发数据集自适应迭代预算的系统化启发式方法。基于本文成果可延伸的方向包括：将episodic采样扩展到3D分割，探索volume-level的episode构建；研究episodic采样与课程学习的结合，从简单类别逐步过渡到困难类别；将episodic采样应用于检测和分类等其他任务；开发自适应的类别选择策略，动态调整每个episode中的NC值；探索episodic采样与半监督或自监督学习的结合，在未标注数据上利用类别平衡的批次结构；在更大规模的数据集上验证迭代预算混淆因素的普遍性。

复现评估

复现性评估显示，作者提供了完整的开源代码，可在https://github.com/iasonsky/episodic-sampling获取。使用的数据集来自公开可用的SAROS数据集，虽然原始数据集包含900个CT扫描，但作者仅使用了其中210个无需额外许可要求的扫描。所有实验使用PyTorch实现，在NVIDIA V100 GPU（32GB VRAM）上运行。研究提供了详细的实验设置，包括网络架构、优化参数、学习率调度和早停策略。然而，存在一些复现挑战：参考标注的细化过程涉及自动分割模型，可能需要额外的依赖；研究没有提供具体的随机种子，可能影响结果的可复现性；没有提供计算资源的总消耗（如总训练时间或GPU小时数）；测试集较小（30个扫描），结果可能有较高的方差。总体而言，代码开源、数据集公开、实验描述详细，复现难度中等，但需要注意参考标注生成步骤和随机种子设置。

在类别不平衡的CT身体成分分割中分离采样策略与训练预算的影响 Disentangling Sampling from Training Budget in Class-Imbalanced CT Body Composition Segmentation