← 返回 2026-01-21

最终超越随机基线：3D生物医学影像主动学习的简单有效解决方案 Finally Outshining the Random Baseline: A Simple and Effective Solution for Active Learning in 3D Biomedical Imaging

Carsten T. Lüth, Jeremias Traub, Kim-Celine Kahl, Till J. Bungert, Lukas Klein, Lars Krämer, Paul F. Jäger, Klaus Maier-Hein, Fabian Isensee 📅 2026-01-20 👍 1 2026-07-13 08:35

3D医学影像分割不确定性采样主动学习类分层采样

arXiv HuggingFace PDF

首个能稳定超越改进随机基线的3D生物医学分割主动学习方法

前置知识

主动学习

主动学习是一种半监督学习策略，它通过选择性地查询最信息丰富的数据点进行标注，从而用最少的标注工作量最大化模型性能。在生物医学影像中，专家标注3D体积数据极其耗时昂贵，主动学习通过迭代循环进行操作。循环包括初始小批量标注训练模型、模型在未标注池中评估不确定性、选择最不确定样本标注、重新训练模型。关键挑战是如何定义和计算样本的信息量，以及平衡探索和利用。

本文完全基于主动学习框架，理解其核心概念、循环机制和评估指标（如AUBC、Final Dice、FG-Eff）是理解论文方法有效性的基础。

不确定性采样

不确定性采样是主动学习中最常用的查询策略，其核心思想是选择模型最不确定的样本进行标注。对于分割任务，常用预测熵作为不确定性度量，公式为H[p(y|x)] = -∑p(y=c|x) log p(y=c|x)，其中p(y=c|x)是模型对输入x属于类别c的预测概率。高熵意味着模型对当前预测缺乏信心，可能是边界样本或困难样本。其他常用度量包括BALD和最大概率等。理解这些度量的计算方式和意义对于理解本文方法至关重要。

本文的核心方法ClaSP PE基于预测熵，对其进行了两个关键改进，理解不确定性采样的原理是理解本文创新点的前提。

3D体积分割与类不平衡

3D生物医学影像如CT和MRI通常具有巨大的体积维度，单个体积可能超过500×500×500体素。这些数据存在显著的类不平衡问题，背景类占据绝大部分体素，不同前景结构的大小差异极大。因此，医学图像分割通常使用Dice损失、类别加权采样等策略来应对不平衡。在主动学习中，简单的top-k不确定性采样会倾向于查询大尺寸结构而忽略小但重要的类别，导致学习偏向，这是一个需要解决的核心问题。

本文针对的两大核心问题之一就是类不平衡，理解3D医学影像的类不平衡特性以及传统方法的局限性是理解类分层采样创新点的关键。

类分层采样

类分层采样是一种确保每个类别都有足够样本的采样策略，特别适用于多类别不平衡场景。其基本思想是为每个类别预定义采样配额，然后在每个类别内部进行子采样。在主动学习语境下，类分层采样意味着不是简单地选择全局最不确定的样本，而是在每个类别内分别选择最不确定的样本，从而保证小类别也能获得足够的标注资源。本文的实现是先计算类别特异性不确定性分数，然后在每个类别内按分数排序选择，最后按类别配额组合，这是一种创新的实现方式。

这是本文的核心创新之一，直接针对3D医学影像的类不平衡问题，理解其实现方式和原理是理解本文方法的关键。

功率噪声与Gumbel噪声

功率噪声是一种用于增加采样多样性的技术，它通过对分数进行对数变换并添加随机噪声来扰动排序。具体操作是对分数s做log变换后加上Gumbel噪声，其中Gumbel噪声是一种重参数化噪声，其性质保证了扰动后的top-k排序等价于从概率分布中采样而不是确定性选择。参数β控制噪声强度，β越大噪声越小，采样越接近确定性选择。本文的创新在于使用指数衰减调度来动态调整噪声强度，从早期的高噪声逐渐过渡到后期的低噪声，实现了探索与利用的平衡。

这是本文的另一核心创新，用于解决早期AL循环中的查询多样性问题，理解功率噪声和调度机制是理解完整方法的重要部分。

nnActive框架与nnU-Net

nnActive是一个专为3D生物医学分割主动学习设计的综合框架，它解决了该领域的四个常见评估陷阱，包括评估设置过少、模型训练未使用部分标注、随机基线未适配3D设置、用体素数衡量标注成本。nnU-Net是医学图像分割的自配置框架，通过自动配置预处理、数据增强、网络架构和训练策略，在医学分割基准上表现优异。nnActive基于nnU-Net，支持3D patch查询和部分损失训练，允许模型仅使用标注区域计算损失。本文的所有实验都在nnActive框架内进行，确保了实验的标准化和可重复性。

本文的实验完全基于nnActive框架和nnU-Net分割主干，理解这两个工具的设计理念和特性对于理解本文的实验设置、评估指标和结果解释至关重要。

评估指标AUBC、Final Dice、FG-Eff、PPM

本文使用四个关键评估指标来全面评估方法性能。Final Dice是完整标注预算后的分割Dice分数，反映最终性能。AUBC是AL轨迹上所有循环的Dice分数曲线下的面积，用梯形法计算并归一化，反映整体性能。FG-Eff通过指数拟合量化用多少前景体素达到全数据性能，越高表示效率越高。PPM用成对t检验统计方法之间显著胜负的百分比，每个单元格表示行方法显著超越列方法的频率。这些指标从不同角度全面评估了分割质量、标注效率和统计显著性，提供了对方法性能的多维度理解。

本文的所有实验结果都用这些指标展示，理解每个指标的含义和解释方式对于正确理解论文结论的强度和意义至关重要。

研究动机

3D生物医学图像分割的标注成本极高，不仅需要高度专业化的医学专家知识，而且对体积数据进行详细标注本身就很耗时。例如，一个上腹部CT扫描可能超过500×500×500个体素，手动标注这样的体积数据需要数小时甚至数天。主动学习理论上可以通过选择性标注最信息丰富的样本来减少标注需求，但现有方法在实际应用中面临严峻挑战。研究表明，随机采样特别是改进的随机策略表现出人意料地强大，而常用的主动学习方法如预测熵和BALD等在3D医学分割中无法稳定超越这些随机基线。相关研究明确指出，在当前方法学标准下，没有足够的证据支持推荐主动学习而非改进的随机基线。这种局面使得主动学习在3D生物医学分割中的有效性长期未得到验证，阻碍了其在临床和研究中的实际应用。

本文的目标是本文旨在开发一个简单但有效的主动学习查询方法，使其能够在3D生物医学图像分割任务中稳定地超越改进的随机采样基线。具体目标包括在nnActive基准上超越所有基线方法，该基准包含4个3D医学数据集、3个标注预算和2种查询patch尺寸，共24个实验设置。同时要保持高标注效率，在提升分割质量的同时不牺牲前景体素的利用效率。作者还致力于提供强大的泛化能力，使方法在未见过的新数据集上无需调整即可有效工作。此外，作者希望提供实用的部署指南，使从业者能够直接应用到实际标注工作流中。作者明确强调，这个目标不是为了追求方法学上的新颖性，而是通过直观地改进现有方法来解决这个长期存在的难题。

与已有工作不同的是，本文的独特切入点在于直接针对不确定性基线方法在3D医学分割中的两个经验观察到的缺陷：类不平衡和早期选择的低冗余度。之前的研究要么忽视了这些特定于3D医学分割的问题，要么采用了过于复杂的方法如基于表示的Core-Set方法，在3D patch查询设置下因运行时和内存约束而不可行。作者通过两个简单但有效的扩展来直接解决这些缺陷。类分层查询通过分层采样确保覆盖代表性不足的结构，衰减调度的对数尺度功率噪声则用于增强早期AL循环中的查询多样性，后期鼓励利用。这种针对特定缺陷的简单改进方法，与追求复杂创新的研究形成了鲜明对比，体现了务实研究理念。作者通过大规模实验验证了这种简单方法的有效性，为该领域提供了一个可靠的基准。

核心方法

ClaSP PE方法的整体思路很直观，在标准不确定性采样方法即预测熵的基础上添加两个针对性的改进来解决3D医学分割中的两个核心问题。方法的技术路线如下，首先为每个图像计算不确定性图和预测类别概率，然后对66%的查询预算使用类分层采样，通过计算类别特异性分数并在每个类别内排序选择。对剩余34%的预算使用标准不确定性图进行全局选择。最后对所有分数添加Gumbel噪声并使用指数衰减的噪声强度以增加多样性，然后选择top-k patch。整个过程可以概括为不确定性计算、类别特异性分数计算、分层与全局混合采样、噪声扰动和top-k选择。这种设计在保持对高不确定性样本敏感的同时，确保了类别平衡和早期多样性，实现了探索与利用的有效平衡。

ClaSP PE的核心创新点可以概括为两点，其本质区别在于它们直接针对3D医学分割的特定缺陷而不是通用的主动学习改进。首先，类分层采样是对top-k采样方法忽视小类别这一缺陷的直接响应。传统不确定性采样只在全局排序选择top-k，这会导致大类别主导选择而小类别被忽略。ClaSP PE通过在类别内分别排序选择确保每个类别无论大小都有平等的机会被查询。其次，衰减调度的功率噪声是对早期AL循环中查询多样性不足的直接响应。早期模型初始化不佳时不确定性分数可能对所有样本都相似，导致选择的patch高度冗余。通过早期添加强噪声ClaSP PE强制多样选择，后期随着模型成熟降低噪声让方法专注于真正的不确定样本。这两个创新的本质区别在于它们不是全新的方法论而是对现有缺陷的针对性修复，这也是作者强调简单但有效的原因。

方法步骤详情

ClaSP PE方法的步骤包括输入处理和输出。输入包括未标注池中的3D图像集合、当前训练好的分割模型、查询预算、类别数不含背景、分层采样比例固定为0.66、噪声调度参数固定为1和100、当前AL循环和总循环数。具体步骤如下，首先对每个图像模型进行前向推理得到预测概率。第二步计算每个体素的预测熵作为不确定性图。第三步计算类别特异性分数，其中是类别的预测概率对背景类单独处理。第四步使用指数衰减调度计算当前噪声强度。第五步对所有分数添加Gumbel噪声。第六步对每个类别包括背景排序选择前个patch并考虑与已标注集和已选择patch的重叠。第七步对剩余个patch按全局不确定性分数排序选择。第八步输出最终的查询集。整个方法的输出是需要标注的3D patch集合，每个patch包含其位置信息和所属图像，供专家进行标注。

技术新颖性

ClaSP PE的技术新颖性可以从多个方面进行分析。首先，类分层采样在主动学习文献中是首次使用。虽然分层采样在机器学习中很常见，但用它来平衡主动学习的查询选择是新的。这种方法依赖于模型预测而非真实标签，使其在不增加标注成本的情况下实现了类别平衡，这是一个重要的创新点。其次，衰减调度的功率噪声是对已有工作的直接扩展，但将其与类分层采样结合并使用指数衰减而非线性或sigmoid调度是本文的创新。作者通过实验发现指数调度表现与最好的相当或更好，这为后续研究提供了有价值的参考。第三，方法的组合方式体现了系统性思维，类分层采样解决类别不平衡，功率噪声解决早期多样性，两者结合相辅相成形成了完整的方法体系。最后，从更广的角度看，这篇论文的新颖性不在提出全新的理论或复杂的架构，而在于通过系统的经验驱动改进解决一个长期存在的实际问题，这种务实的新颖性在当前的机器学习研究中具有重要价值。

**Figure 1**: Overview of the ClaSP PE query strategy

**Figure 7**: Ternary plot visualizing the difference of the entropy and class-specific measure

实验结果

本文的核心发现可以概括为三点，每一项都有具体的实验数据支持。首先ClaSP PE是首个在nnActive基准上稳定超越改进随机基线的主动学习方法。在24个实验设置的聚合结果中，ClaSP PE的平均AUBC为67.62加减0.33，Final Dice为72.81加减0.30，都超过了改进随机基线Random 66% FG的67.14加减0.22和71.14加减0.22。在AUBC上ClaSP PE相比Random 66% FG提升了0.48个百分点，相比Random 33% FG提升了1.62个百分点。在Final Dice上ClaSP PE相比Random 66% FG提升了1.67个百分点，相比Random 33% FG提升了3.07个百分点。虽然绝对提升看似不大但在医学分割中这样的提升已经具有临床意义，特别是在有限标注预算下。其次ClaSP PE在保持高分割质量的同时也保持了高标注效率。在FG-Eff指标上ClaSP PE的排名与Random 66% FG相当，表明它没有为了提高Dice分数而过度消耗前景体素。Nemenyi后验检验显示ClaSP PE在AUBC和Final Dice上形成了显著的优势分组，与随机基线明显分离。最后ClaSP PE在四个新数据集的Roll-Out研究中表现出强大的泛化能力。在MAMA MIA数据集上ClaSP PE的FG-Eff为57.36，显著优于Random 66% FG的负4.67。这些数据表明ClaSP PE在未见过的数据集上无需调整即可有效工作。消融实验验证了两个组件的有效性，类分层采样相比标准预测熵在所有评估指标上都有改进，添加功率噪声大幅提升了FG-Eff但略微降低了AUBC和Final Dice，使用衰减调度的完整ClaSP PE方法在三个指标上都达到了最佳平衡。

**Table 1**: ClaSP PE achieves better average performance than baselines

**Table 2**: ClaSP PE provides robust performance gains on out-of-the-box deployment

**Table 3**: Dataset details and configurations for the nnActive study

**Table 4**: Dataset details and configurations for the roll-out study

**Figure 2**: ClaSP PE delivers substantial performance improvements without sacrificing annotation efficiency

**Figure 3**: ClaSP PE consistently outperforms both random and AL baselines across the nnActive benchmark

**Figure 4**: Longer training amplifies the advantage of ClaSP PE over random selection

**Figure 5**: ClaSP PE achieves the best trade-off between segmentation quality and annotation efficiency

**Figure 6**: ClaSP PE shows overall strongest performance on the roll-out study

**Figure 8**: p-values for the Nemenyi post-hoc tests on the nnActive benchmark

**Figure 9**: Pairwise Penalty Matrices for each dataset

查看结构化数据

任务	指标	本文	基线	提升
nnActive基准24个设置聚合	AUBC	67.62加减0.33	Random 66% FG: 67.14加减0.22	0.48个百分点提升
nnActive基准24个设置聚合	Final Dice	72.81加减0.30	Random 66% FG: 71.14加减0.22	1.67个百分点提升
nnActive基准KiTS数据集高预算	Final Dice	69.53加减0.68	Random 66% FG: 55.90加减0.84	13.63个百分点提升
Roll-Out MAMA MIA数据集	Final Dice	68.62	Random 66% FG: 45.10	23.52个百分点提升
Roll-Out Tooth Fairy 2数据集	FG-Eff	20.07	Random 66% FG: 10.85	9.22提升85.0%

局限与改进

本文的局限性包括作者承认的和独立观察到的多个方面。首先像所有主动学习方法一样ClaSP PE面临基准特定过拟合的风险，因为设计选择需要经验验证。虽然作者通过双评估即基准加Roll-Out缓解了这个问题但不能完全消除。其次方法依赖于底层模型的预测能力，当初始分割质量不足时分层查询的有效性会降低。作者通过部署指南缓解了这个问题但仍然是一个潜在限制。第三主动学习本质上是一个经济权衡，减少标注成本必须与额外的计算开销相平衡，最优平衡取决于具体情境。本文使用了约20000 GPU小时，这对小实验室可能过于昂贵。第四虽然作者与强基线比较但更复杂的主动学习策略可能带来进一步收益，尽管它们对3D patch查询的适应性仍不确定。第五ClaSP PE依赖于控制分层和功率噪声的小规模超参数，虽然在多个数据集上验证过但这些参数可能受益于自适应调整以更好匹配数据集特定特征。第六由于实验证据是在nnActive框架内使用3D patch查询获得的结论可能在有意义的偏离下不同。独立观察到的局限性包括在AMOS数据集的低预算设置下ClaSP PE被Random 66% FG显著超越，这可能是由于AMOS的15个类别使得200 patch的预算过于紧张。作者对边界度量的评估较少只关注Dice，这在某些临床场景可能不足。方法的可解释性有限，虽然简单但缺乏对为什么特定patch被选择的深入分析。

独立分析的弱点

独立分析来看ClaSP PE存在几个可以改进的弱点。首先类别分层假设类别平衡是目标，但在某些临床场景中某些类别比其他类别更重要。例如在肿瘤分割中小肿瘤可能比大器官更重要，但目前的分层方法会给所有类别平等预算可能浪费标注资源在不重要的小类别上。改进方向可以是引入类别权重或优先级让重要类别获得更多查询机会。其次功率噪声的调度是固定的指数衰减假设所有任务都遵循相同的探索利用模式。但在实践中不同数据集的探索利用转换点可能不同，有些可能需要更长的探索期。改进方向可以是自适应调度根据模型性能变化动态调整噪声强度。第三方法完全依赖模型预测在早期AL循环中模型初始化不佳时预测可能严重错误导致分层选择基于错误信息。改进方向可以在早期循环结合更多随机性或预训练模型来改善初始预测质量。第四当前方法对patch尺度敏感不同数据集的最优patch尺度不同但作者使用固定尺度。改进方向可以是自适应patch尺度根据目标结构大小动态调整。最后方法没有考虑空间上下文相邻patch可能提供冗余信息。改进方向可以引入空间多样性约束确保选择的patch在空间上分散。

未来方向

作者提出的未来研究方向包括研究查询设计和标注技术的交互，例如稀疏标注、超像素、scribbles等不同标注方式如何与patch查询交互。探索ClaSP PE与提示式基础模型的结合，这些模型可能进一步降低标注成本。将方法扩展到2D slice查询和其他查询设计验证泛化性。探索更长训练时间的影响，作者发现从200 epoch增加到500 epoch显著改善了ClaSP PE相对随机基线的表现1000 epoch可能带来更大收益。基于本文成果可延伸的方向包括自适应超参数调整，根据数据集特征自动确定最优的分层比例和噪声参数。多任务学习将ClaSP PE扩展到同时分割多个相关任务。不确定性度量的改进，探索除预测熵外的其他度量如互信息在类分层设置下的表现。实时主动学习研究如何在标注过程中动态调整查询策略而不是批处理方式。可解释性增强开发工具来解释为什么特定patch被选择帮助专家理解模型的关注点。

复现评估

ClaSP PE的复现评估总体良好。代码开源在GitHub提供了完整的实现和详细文档。实验使用了nnActive框架该框架有详细的文档和预定义的配置。数据集都是公开可用的包括AMOS2022、Medical Segmentation Decathlon Hippocampus、KiTS2021、ACDC等。实验在单GPU A100上进行每个模型训练约200 epoch使用了5折交叉验证和4个随机种子总共约20000 GPU小时。这对于小实验室来说算力要求较高但可以减少seed数量或使用较小模型来降低成本。作者提供了详细的超参数设置，分层比例固定为0.66，噪声初始和最终值固定为1和100，查询patch尺度根据数据集不同所有设置都在附录中详细说明。作者还提供了真实世界部署指南，给出在新数据集上应用ClaSP PE的具体步骤和参数选择规则。总体来说复现难度中等主要瓶颈是算力需求但代码和文档的质量使得复现可行。