← 返回 2026-02-04

基于注视与聚焦强化学习的泛癌种筛查框架 Glance and Focus Reinforcement for Pan-cancer Screening

Linshan Wu, Jiaxin Zhuang, Hao Chen 📅 2026-01-27 👍 4 2026-07-13 08:35
CT分割 医学图像分析 强化学习 泛癌种筛查 策略优化

模拟放射科医生先扫视后聚焦的诊断策略,用强化学习筛选CT子体块,实现泛癌种高效精准筛查

前置知识

泛癌种筛查(Pan-cancer Screening)

泛癌种筛查是指用一个统一的AI模型对大规模CT扫描中多种不同类型的癌症病变同时进行检测和分割。与传统的单一癌种模型(如只检测肺结节或只分割肝脏肿瘤)不同,泛癌种筛查需要模型具备跨器官、跨病变类型的泛化能力。在本文中,模型需要处理9种不同类型的病变,包括肺肿瘤、肺结节、胸腔积液、COVID-19感染、肝肿瘤、胰腺肿瘤、肾肿瘤、肾上腺皮质癌和结肠肿瘤,覆盖来自23个公开数据集的5117个CT扫描。

理解泛癌种筛查的概念和挑战是理解本文核心动机的关键。CT扫描中病变类型多样、大小不一、位置各异,且病变区域在CT体块中占比极小(本文数据集平均仅占0.085%),这使得单一模型的训练和推理都面临巨大困难。

前景-背景不平衡(Foreground-Background Imbalance)

在CT图像中,病变区域(前景)相对于正常组织(背景)的占比极小。本文数据集中,9种病变类型的面积占比从0.003%(结肠肿瘤)到0.688%(肺肿瘤)不等,整体平均仅占0.085%。这种极端不平衡导致模型在训练时容易过度拟合负样本(无病变区域),在推理时对健康区域产生大量冗余计算和假阳性预测。

这是本文要解决的核心技术挑战。正是因为前景-背景的极端不平衡,传统的分割模型在泛癌种筛查中表现不佳,需要新的训练范式来解决这一问题。

强化学习(Reinforcement Learning, RL)

强化学习是一种通过智能体(agent)与环境交互来学习最优策略的机器学习范式。智能体在每个状态下选择一个动作,环境返回一个奖励信号,智能体的目标是最大化累积奖励。在本文中,Glance模型作为策略模型(policy model),其动作是选择或丢弃某个CT子体块,奖励信号来自Focus模型的分割结果。通过RL,Glance模型学会了选择包含病变的子体块,丢弃冗余的健康区域。

RL是本文方法的核心技术支撑。由于Glance模型的选择操作(选或不选)是不可微分的,传统的梯度下降无法直接优化,因此需要借助RL的策略梯度方法来绕过不可微分性,实现端到端训练。

GRPO(Group Relative Policy Optimization)

GRPO是由DeepSeek团队提出的一种策略优化算法,最初用于大语言模型(LLM)的数学推理训练。与传统的PPO算法不同,GRPO不需要训练额外的价值模型(critic),而是通过生成一组候选答案并计算组内相对优势(relative advantage)来估计梯度。具体来说,它将每个候选答案的奖励与组内奖励的均值和标准差进行归一化,得到优势值(advantage),然后用策略梯度优化模型。

GRPO是本文Group Relative Learning(GRL)范式的直接灵感来源。但GRPO天然适用于LLM(因为LLM可以轻松生成多个候选回答),而将其迁移到视觉任务一直是难题。本文通过利用滑动窗口裁剪产生的子体块组作为天然的候选组,巧妙地解决了这一迁移问题,首次将GRPO范式从NLP成功扩展到视觉任务。

滑动窗口推理(Sliding-window Inference)

滑动窗口推理是3D医学图像分割中的标准推理策略。由于CT体块通常很大(如512×512×数百层),无法一次性输入GPU,因此采用固定大小的窗口在CT体块上滑动,每次处理一个小的子体块,最后将所有子体块的预测结果拼接成完整的分割图。在本文中,子体块大小为96×96×64,每个CT扫描被裁剪成约128-256个子体块。

滑动窗口推理是本文方法的基础设施。传统方法对所有子体块一视同仁地进行分割,而GF-Screen通过Glance模型先筛选,只对包含病变的子体块进行分割,从而大幅减少计算量(降低5.7倍)。

研究动机

现有AI癌症筛查方法在处理大规模CT扫描时面临两个根本性问题。第一,CT体积中病变区域的占比极小,本文数据集中9种病变类型的平均面积占比仅为0.085%,其中结肠肿瘤甚至低至0.003%,肺肿瘤为0.688%,这种极端的前景-背景不平衡导致模型难以有效定位多样化的微小病变。第二,现有方法(如nnUNet、SwinUNETR、VoCo、SuPreM、PASTA等)普遍采用滑动窗口推理策略,对CT体块中的所有区域一视同仁地进行分割计算,包括大量健康的冗余区域。这不仅严重降低了推理效率——大多数对比方法需要100-200秒/扫描的推理时间——还会在健康区域产生大量假阳性。例如,VoCo在无病变数据集上的假阳性率高达41.8%,SuPreM为38.7%,TransUNet更是达到62.5%。这些假阳性在临床筛查中会导致不必要的焦虑和进一步检查,严重影响AI系统的临床可部署性。

本文的目标是本文的目标是开发一种既能精准分割多种癌症病变、又能高效过滤冗余健康区域的泛癌种筛查框架。具体而言,作者希望模型能够:(1)在9种不同病变类型上实现高精度的检测和分割;(2)大幅降低推理计算成本,使其适合大规模临床筛查部署;(3)显著减少假阳性率,提高筛查的可靠性;(4)在MICCAI FLARE25泛癌种挑战赛等权威评测中取得领先成绩。

与已有工作不同的是,本文的独特切入角度是借鉴经验丰富的放射科医生的诊断策略。放射科医生在阅片时,并不会逐层逐像素地仔细检查CT的每一个区域,而是先快速扫视(glance)整个CT体积,识别出可能的病变区域,然后聚焦(focus)到这些区域进行精确诊断。这种'先扫视后聚焦'的两阶段策略启发了作者设计GF-Screen框架。与现有方法的本质区别在于:现有方法是'全扫描均匀处理'策略,而GF-Screen是'智能筛选+精准处理'策略。更进一步,作者观察到放射科医生在聚焦时会选择最佳的诊断视角——包含完整病变信息、边界清晰的视角,而非部分截断或角度不佳的视角。这种视角选择的洞察被转化为GRL范式中的相对优势比较机制,使得模型不仅选择有病变的子体块,还能优先选择提供最佳诊断信息的视角。

核心方法

GF-Screen的整体思路可以用一个直观的类比来理解:想象你是一位放射科医生,面前是一份长达数百层的CT扫描。你不会从头到尾逐层仔细检查每一寸组织,而是先快速翻阅整个扫描(glance),眼睛自动被异常区域吸引,然后你停下来,仔细观察那些看起来可疑的区域(focus),做出精确判断。GF-Screen将这个过程形式化为一个两阶段的强化学习框架。技术路线上,Glance模型是一个轻量级的3D ResNet-18分类网络(32M参数),它接收CT子体块作为输入,输出'有病变'或'无病变'的二分类结果。Focus模型是SwinUNETR分割网络(72M参数),对Glance模型筛选出的子体块进行精确的像素级病变分割。关键的创新在于训练方式:Focus模型的分割结果被用作奖励信号,通过强化学习来训练Glance模型,形成一个闭环的协同优化系统。

本文的核心创新点是Group Relative Learning(GRL)范式,它与已有方法的本质区别体现在三个层面。首先,与直接用交叉熵损失训练分类器不同,GRL利用Focus模型的分割结果作为奖励信号来训练Glance模型,避免了分类标签粒度不足的问题。分类标签只能告诉模型'这个子体块有没有病变',而分割结果能告诉模型'Focus模型在这个子体块上能否准确分割病变',后者提供了更精细的监督信号。其次,与PPO等传统RL算法不同,GRL不需要训练额外的价值网络(critic),而是利用同一组CT子体块的奖励差异来估计相对优势。滑动窗口裁剪产生的子体块组天然提供了可比较的候选样本——有些包含病变且容易分割(高优势),有些虽然包含病变但视角不佳(低优势),有些是纯健康区域(零优势)。通过组内归一化,GRL鼓励模型优先选择高优势子体块,丢弃低优势子体块。第三,奖励函数的设计也独具匠心:使用二元检测奖励(分割预测与真值是否重叠)而非连续的DSC分数,因为对于Glance模型来说,准确检测病变的存在性比分割质量更重要。高DSC可能只是一个简单案例,而低DSC可能是临床上至关重要但难以分割的病例。

方法步骤详情

GF-Screen的训练和推理分为以下几个具体步骤。训练阶段:(1)从CT体积中随机裁剪N个子体块(N=16,每个CT体积裁剪4个子体块,batch size为4);(2)所有子体块同时输入Glance模型和Focus模型——Glance模型输出每个子体块的选择概率分布(有病变/无病变),Focus模型输出每个子体块的分割预测;(3)计算奖励:将Focus模型的分割预测与真实病变mask对比,如果预测与mask有交叠则奖励 r_i=1,否则 r_i=0(公式2);(4)计算组内相对优势:对N个子体块的奖励进行组内归一化,A_i = (r_i - mean(r)) / std(r)(公式3);(5)优化Glance模型:最大化GRL目标函数 J_GRL(公式4),其中包含策略梯度项(鼓励高优势动作)、KL散度正则项(防止策略偏离参考模型太远,系数 beta=0.01)和分类损失项(小系数 alpha=0.1,防止模型完全忽略分类监督);(6)Focus模型使用标准的Dice-CE损失进行分割训练;(7)总损失 L = L_GRL + L_seg,两个损失权重相等;(8)参考模型每轮更新一次。推理阶段:(1)用滑动窗口将CT体块裁剪成一组子体块;(2)Glance模型对每个子体块进行分类,过滤掉'无病变'的子体块;(3)只将'有病变'的子体块输入Focus模型进行精确分割;(4)拼接分割结果得到最终输出。

技术新颖性

GF-Screen的技术新颖性主要体现在以下几个方面。第一,首次将强化学习技术成功应用于泛癌种筛查这一具体且极具挑战性的医学视觉任务。虽然RL在计算机视觉中有过一些探索(如图像分类中的自适应搜索),但将其扩展到密集预测任务(如检测和分割)一直是一个未解决的难题。第二,将GRPO范式从NLP领域迁移到视觉领域,解决了GRPO在视觉任务中的关键瓶颈——如何生成一组候选结果。本文发现滑动窗口裁剪天然提供了可比较的候选子体块组,无需额外的候选生成机制,实现了无缝集成。第三,提出了二元检测奖励函数,相比连续的DSC奖励更加鲁棒。这一设计基于对临床场景的深刻理解:Glance模型的核心任务是'发现病变'而非'评估分割难度'。消融实验证实,使用DSC作为奖励仅获得43.2%的DSC(FLARE23数据集),而二元检测奖励达到56.7%。第四,通过组内相对优势比较,GRL不仅学会了选择有病变的子体块,还学会了选择最优诊断视角——包含完整病变信息、能产生更精确分割结果的视角,这是传统分类训练无法实现的能力。

传统方法与GF-Screen的对比示意
Figure 2: 传统方法与GF-Screen的对比示意
GF-Screen整体框架
Figure 3: GF-Screen整体框架
子体块视角变化示意图
Figure 4: 子体块视角变化示意图
Group Relative Learning(GRL)范式
Figure 5: Group Relative Learning(GRL)范式
GRL训练的RL损失曲线
Figure 6: GRL训练的RL损失曲线
Glance模型的可视化激活图
Figure A2: Glance模型的可视化激活图
最优视角选择的效果示意图
Figure A4: 最优视角选择的效果示意图
不同训练子集上的RL损失曲线分析
Figure A6: 不同训练子集上的RL损失曲线分析

实验结果

GF-Screen在大规模实验中展示了全面的优越性能。在内部数据集的泛癌种分割任务上(表1),GF-Screen在9种病变类型上的平均DSC达到60.8%,超越第二名VoCo(56.1%)4.7个百分点,超越SuPreM(54.4%)6.4个百分点。在检测任务上(表2),GF-Screen的平均F1分数达到95.9%,其中COVID-19、肾肿瘤和肾上腺皮质癌的F1分数均达到100%。在外部验证集上(表3),GF-Screen平均DSC为54.1%,超越第二名nnUNet(49.0%)5.1个百分点,证明了模型的泛化能力。在假阳性控制方面(表4),GF-Screen在三个无病变数据集上的平均假阳性率仅为15.6%,远低于SuPreM的38.7%、VoCo的41.8%和TransUNet的62.5%。在FLARE23数据集上(表5),GF-Screen达到56.7% DSC,大幅领先其他方法。在MICCAI FLARE25挑战赛验证排行榜上(表7),GF-Screen以58.6% DSC和52.2% NSD的成绩领跑,超越FLARE24冠军方案(nnUNet,33.0% DSC)25.6个百分点和28.2个百分点。在推理效率方面(表6和表10),GF-Screen的平均推理时间为28秒/扫描,而大多数对比方法需要100-200秒。通过丢弃83.3%的冗余子体块(保留率仅16.7%),GF-Screen将计算成本从12155 GFLOP降低到2164 GFLOP,实现了5.7倍的加速。Glance模型的分类灵敏度达到97.7%,特异度为75.9%,说明模型能高概率地发现病变区域。消融实验(表9)进一步证实,直接使用交叉熵训练会导致模型坍缩到预测负类(保留率仅3.1%,DSC仅37.6%),而PPO方法无法稳定收敛(DSC仅24.5%),GRL配合二元检测奖励和分类损失达到了最佳效果(56.7% DSC)。

内部数据集上的泛癌种分割性能(DSC %)
Table 1: 内部数据集上的泛癌种分割性能(DSC %)
内部数据集上的泛癌种检测性能(F1-Score %)
Table 2: 内部数据集上的泛癌种检测性能(F1-Score %)
外部数据集上的泛癌种分割性能(DSC %)
Table 3: 外部数据集上的泛癌种分割性能(DSC %)
假阳性率对比(%)
Table 4: 假阳性率对比(%)
FLARE23数据集上的性能
Table 5: FLARE23数据集上的性能
平均推理时间对比(秒/扫描)
Table 6: 平均推理时间对比(秒/扫描)
MICCAI FLARE25验证排行榜对比
Table 7: MICCAI FLARE25验证排行榜对比
Glance模型的分类灵敏度和特异度
Table 8: Glance模型的分类灵敏度和特异度
RL训练的消融实验
Table 9: RL训练的消融实验
效率消融实验
Table 10: 效率消融实验
分割骨干网络消融实验
Table 11: 分割骨干网络消融实验
Glance模型骨干网络和组大小N的消融实验
Table 12: Glance模型骨干网络和组大小N的消融实验
泛癌种数据集概览与GF-Screen性能对比
Figure 1: 泛癌种数据集概览与GF-Screen性能对比
GF-Screen与第二名模型(VoCo)在各病变类型上的DSC对比
Figure A1: GF-Screen与第二名模型(VoCo)在各病变类型上的DSC对比
健康区域分割结果对比
Figure A3: 健康区域分割结果对比
GF-Screen在不同病变类型上的分割结果
Figure A5: GF-Screen在不同病变类型上的分割结果
查看结构化数据
任务指标本文基线提升
泛癌种分割(内部数据集,9种病变类型平均) DSC (%) 60.8 56.1 (VoCo) +4.7%
泛癌种检测(内部数据集,9种病变类型平均) F1-Score (%) 95.9 92.5 (SwinUNETR) +3.4%
外部验证集分割(3个外部数据集平均) DSC (%) 54.1 49.0 (nnUNet) +5.1%
假阳性率(3个无病变数据集平均) False Positive Rate (%) 15.6 30.4 (nnUNet) -14.8%
FLARE23泛癌种数据集 DSC (%) 56.7 50.6 (VoCo) +6.1%
FLARE25验证排行榜 DSC (%) 58.6 33.0 (FLARE24冠军) +25.6%
FLARE25验证排行榜 NSD (%) 52.2 24.0 (FLARE24冠军) +28.2%
推理效率 GFLOP/扫描 2164 12155 (SwinUNETR baseline) 5.7倍加速

局限与改进

尽管GF-Screen取得了显著的性能提升,但仍存在一些值得关注的局限性。首先,Glance模型的特异度为75.9%,意味着约24.1%的健康子体块被错误地选为'有病变',虽然这比直接使用所有子体块已经大幅减少了冗余计算,但仍有改进空间。其次,在某些病变类型上,GF-Screen的提升幅度有限,例如结肠肿瘤的DSC仅为37.7%(虽然已是最佳),说明对于极小或极不明显的病变,现有框架的能力仍需增强。第三,当前的二元检测奖励函数虽然简单有效,但它将所有'有病变'的子体块一视同仁,无法区分不同质量的诊断视角——虽然GRL的相对优势机制在一定程度上弥补了这一不足,但更精细的奖励设计可能带来进一步提升。第四,作者在论文中承认,虽然GF-Screen在23个公开数据集上表现优异,但尚未在真实临床数据集上进行验证,也没有进行临床医生参与的读者研究(reader study),因此其实际临床价值尚待进一步验证。第五,当前框架将Glance模型和Focus模型分开训练(虽然共享损失函数),如果能实现更紧密的端到端联合优化,可能会进一步提升性能。第六,论文仅在CT扫描上进行了实验,未涉及MRI等其他影像模态。

独立分析的弱点

从独立分析的角度来看,GF-Screen存在以下几个可改进的弱点。第一,Glance模型和Focus模型的架构选择相对保守——Glance模型使用标准的3D ResNet-18,Focus模型使用SwinUNETR。虽然作者在消融实验中测试了不同骨干网络(表11和表12),但并未探索更先进的轻量级架构(如MobileNet 3D变体或高效Transformer)作为Glance模型,这可能在保持效率的同时进一步提升分类精度。改进方向:设计针对子体块分类任务的专用轻量级架构,结合注意力机制聚焦于病变特征。第二,当前的子体块裁剪策略是固定的滑动窗口(96x96x64),不考虑病变的实际大小和位置。对于非常小的病变(如结肠肿瘤,面积占比仅0.003%),固定窗口可能无法提供足够的上下文信息。改进方向:设计自适应窗口大小策略,根据初步扫描结果动态调整裁剪粒度。第三,奖励函数的设计仍有优化空间。二元奖励虽然稳定但信息量有限,可以考虑设计多级奖励——例如根据病变的临床重要性(而非分割难度)来调整奖励权重,让模型优先关注高风险病变。第四,GRL中的超参数(N=16, alpha=0.1, beta=0.01, epsilon=0.1)主要基于经验设定,缺乏理论指导和自动调优机制。

未来方向

作者在论文末尾提出了几个明确的未来研究方向。首先,框架可以集成更多新兴的策略优化算法,不仅限于GRPO——例如PPO的改进变体或其他RL技术。其次,将扩展训练数据的覆盖范围,包括更多数据集和病变类型,例如加入头颈部CT数据集进行淋巴结检测。第三,将不同病变类型的分类信息整合到框架中,使Glance模型不仅判断'有无病变',还能初步识别病变类型。基于GF-Screen的成果,还可以延伸出更多研究方向:(1)将GRL范式扩展到其他医学图像分析任务,如器官分割、病灶检测等;(2)探索多模态融合,将CT与PET、MRI等结合,为Glance模型提供更丰富的特征;(3)开发主动学习策略,让模型在筛查过程中自适应地请求更多信息(如对比增强CT);(4)设计临床部署方案,包括与PACS系统的集成、实时推理优化等;(5)开展临床医生参与的reader study,评估AI辅助筛查对诊断效率和准确性的实际提升。

复现评估

本文的可复现性评估较为乐观。作者明确承诺将发布代码和模型检查点,并已在GitHub上开源(https://github.com/Luffy03/GF-Screen)。他们还提交了Docker镜像用于FLARE25公开排行榜验证,确保结果的可信赖性。在算力方面,所有训练实验在单块NVIDIA A800(80G)GPU上完成,推理可在16G GPU上进行,这对于学术研究团队来说是可接受的门槛。训练设置明确(AdamW优化器、学习率3e-4、余弦衰减、batch size 4、300轮训练),超参数(N=16, epsilon=0.1, alpha=0.1, beta=0.01)也已公开。数据方面,使用的是23个公开数据集,总计5117个CT扫描,数据获取门槛较低。作者还进行了5次重复实验并报告了均值和标准差(表A6和A7),t检验p值均小于0.05(表A8),统计显著性有保障。总体而言,复现难度中等偏易,主要挑战在于需要大容量GPU(训练需要80G显存)和较长的训练时间(300轮)。