MOOZY：以患者为中心的计算病理学基础模型

首个显式建模患者多切片关系的病理学基础模型，通过两阶段框架在16个任务上超越基线模型

前置知识

全切片图像（WSI）

全切片图像是数字病理学中的核心数据类型，通常由扫描仪将传统载玻片数字化得到。WSI 具有千兆像素级别的超高分辨率，例如可达 100000 乘 100000 像素或更大，包含从宏观组织结构到微观细胞细节的丰富信息。在计算病理学中，由于 WSI 尺寸过大无法直接输入深度学习模型，通常需要将其划分为多个小图块进行处理，每个图块通常为 224 乘 224 像素。

论文的核心任务是从 WSI 中学习可迁移的表征，理解 WSI 的多尺度特性（图块级和切片级）是读懂本文的关键。

多实例学习（MIL）

多实例学习是处理 WSI 的经典范式。MIL 将一个 WSI 视为一个图块集合，每个图块是一个实例，整个 WSI 只有一个标签。MIL 聚合器（如 MeanMIL、ABMIL、CLAM、DSMIL、TransMIL）学习从图块特征到切片级标签的映射。例如在 ABMIL 中，通过注意力机制为每个图块分配权重，然后计算加权平均得到切片表征，这种方法能够自动关注重要的图块。

论文批判了现有 MIL 聚合器需要针对每个任务从头训练的局限性，MOOZY 的创新在于预训练切片级表征而非每次重新训练 MIL。

自监督学习（SSL）与自蒸馏

自监督学习通过构造伪标签从无标注数据中学习有用表征。在 DINOv2 等方法中，自蒸馏是核心技术：学生网络和教师网络（参数通过指数移动平均更新）处理同一输入的不同增强视图，通过交叉熵损失最小化输出分布差异。这迫使模型学习视角不变的特征，使模型能够从不同视角识别同一组织结构。

MOOZY 阶段1 的核心是自监督预训练，理解自蒸馏机制和掩码图像建模是理解其方法的基础。

生存分析

生存分析预测时间到事件发生的概率分布。在深度学习中，常用离散风险模型：将生存时间离散化为多个区间，模型预测每个区间的风险概率，然后通过负对数似然损失优化。其中时间指标是离散化后的时间，事件指示器表示事件是否发生（1表示事件发生，0表示删失）。这种方法能够处理医疗数据中常见的删失现象。

论文包含 128 个生存分析任务，理解生存分析的建模方式对于理解 MOOZY 的多任务训练至关重要。

研究动机

现有计算病理学方法存在三个结构性局限。第一，大多数方法以单个切片为核心单元，而非以患者为核心单元。临床实践中，同一患者通常有多张切片（例如不同部位、不同时间点、不同染色），但现有方法要么采用早期融合（将所有切片的图块特征拼接成一个更大的 bag），要么采用晚期融合（平均多张切片的嵌入或预测），这些策略将病例视为无序池，丢弃了切片间可能包含诊断信号的依赖关系。第二，高性能模型依赖私有数据（如 GigaPath 使用约 3400 万张私有切片），且部分模型不发布检查点或训练配方，限制了可复现性和社区发展。第三，现有架构将容量集中在重权重图块编码器上，而切片级聚合器却很轻量，这与 WSI 的关键挑战（长程上下文而非单图块形态）相矛盾。

本文的目标是论文提出了 MOOZY，一个以患者为中心的病理学基础模型，其核心是将患者病例而非单个切片作为表征的基本单元。MOOZY 通过两阶段框架显式建模同一患者所有切片之间的依赖关系：阶段1 构建通用的空间表征，阶段2 将这些表征与临床语义对齐。目标是在不依赖私有数据、配对临床报告或十亿级参数架构的情况下，提供可迁移的患者级嵌入，能够跨癌症类型、临床终点和患者群体泛化，同时保持参数效率。

与已有工作不同的是，论文的独特切入角度是显式建模患者级的切片间依赖关系，这是首次在病理学基础模型中尝试超越朴素的多切片融合策略。现有方法要么忽略多切片情况（处理单切片），要么使用简单的平均或拼接策略。MOOZY 通过专用的 case transformer 在预训练期间显式建模所有属于同一患者的切片之间的关系，使模型能够学习到切片间的互补信息、时间演变和空间分布等上下文信号。此外，论文完全使用公共数据构建了大规模多任务监督（56个数据集、333个任务），避免了私有数据和昂贵的配对报告监督。

核心方法

MOOZY 采用两阶段框架，解耦表示学习和语义对齐。直觉上，阶段1 像一个通用的视觉特征提取器，学习切片的空间结构和组织模式，无需任何标签信号；阶段2 像一个临床适配器，将通用特征与具体临床任务对齐，同时建模患者级的切片间关系。技术路线上，阶段1 使用冻结的轻量级图块编码器从预计算的图块特征出发，通过自监督学习训练切片编码器。阶段2 冻结阶段1的切片编码器，使用 case transformer 聚合同一患者所有切片的嵌入，通过大规模多任务监督（333个任务）进行端到端训练。这种设计将表示质量与任务特定适配解耦，使通用先验知识可以从无标注数据中学习，而临床效用通过廉价可用的监督信号实现。

核心创新点是患者级显式依赖建模。与传统方法将多切片病例视为无序池不同，MOOZY 通过 case transformer 在预训练期间显式建模所有属于同一患者的切片之间的关系。case transformer 在序列化的切片嵌入上应用自注意力机制，使 CASE token 可以聚合全局上下文信息。另一个关键创新是两阶段解耦设计：阶段1 完全自监督，构建通用空间表征；阶段2 使用大规模多任务监督，将表征与临床语义对齐。这与任务特定的 MIL 管道（从头学习聚合和任务适配）和多模态切片编码器（将表示质量与配对文本/基因组数据的可用性耦合）形成对比。

方法步骤详情

阶段1：自监督切片编码器预训练。输入是预计算的图块特征网格，维度为高度乘宽度乘图块特征维度。步骤1：从网格中采样全局和局部作物。全局作物大小为 20 乘 20 tokens，局部作物大小为 12 乘 12 tokens，每批次采样 2 个全局和 4 个局部。步骤2：对全局作物应用块掩码，掩码比率在 0.1 到 0.5 之间均匀采样，掩码仅针对组织 token。步骤3：将作物输入切片编码器（6层 Transformer，2D ALiBi 位置编码），得到 CLS token 和 patch tokens 的嵌入。步骤4：通过自蒸馏损失优化，教师（EMA 更新）和学生网络处理不同视图，最小化输出分布差异。总损失是 CLS 层面的自蒸馏加上掩码 patch 的预测损失。训练使用 8 GPU，有效批次 1024 张切片，200 轮，约 436 GPU 小时。阶段2：患者感知语义对齐。步骤1：使用阶段1的切片编码器处理完整切片网格，如果 token 数超过硬件限制，进行分层随机采样以保留空间覆盖。步骤2：得到每个切片的嵌入。步骤3：将同一患者所有切片的嵌入序列输入 case transformer（3层 Transformer），前置可学习 CASE token，得到患者级嵌入。步骤4：将患者级嵌入路由到任务特定的预测头（分类使用线性或 MLP 加上带标签平滑的加权交叉熵，生存使用离散风险模型）。步骤5：在多任务设置下优化，仅对当前批次中有标签的任务计算损失并平均。训练使用 8 GPU，有效批次 1024 个病例，20 轮，约 512 GPU 小时。

技术新颖性

MOOZY 的技术新颖性体现在三个层面。架构层面，首次在病理学基础模型中引入显式的患者级切片间依赖建模，通过 case transformer 替代朴素的多切片融合策略。训练策略层面，采用两阶段解耦设计，将视觉自监督预训练与患者感知多任务对齐分离，这与同时学习聚合和任务适配的 MIL 管道以及依赖配对数据的多模态方法形成对比。数据层面，完全使用公共数据构建了前所未有的多任务监督规模（56个数据集、333个任务、覆盖23个解剖部位的205个分类和128个生存任务），同时保持高参数效率（85.77M 参数，比 GigaPath 小14倍）。实验层面的新颖性包括全面的注意力图谱分析（病理学家评估）和 UMAP 嵌入可视化，提供了模型行为的定性和定量洞见。

**Fig. 2**: Overview of the proposed two-stage framework

**Fig. 3**: Architecture of the slide encoder and case aggregator

实验结果

MOOZY 在16个未见过的任务上表现出色，涵盖了分类和生存分析、分子突变预测、组织学分级等多种临床终点。宏平均方面，MOOZY 达到加权 F1 0.769、加权 ROC-AUC 0.763、平衡准确率 0.702，是所有切片编码器中最强的。与 PRISM 相比，MOOZY 的提升分别为 4.19 个百分点 F1、7.93 个百分点平衡准确率、6.95 个百分点 ROC-AUC。在与 MIL 基线的对比中，MOOZY 超过了最强的 MIL 基线（CONCH v1.5），在三个宏平均指标上分别提升 0.029 F1、0.043 ROC-AUC、0.041 平衡准确率。消融实验表明两阶段设计有效：阶段1仅自监督达到 F1 0.743、AUC 0.715、平衡准确率 0.662，阶段2仅监督达到 F1 0.731、AUC 0.697、平衡准确率 0.659，而完整 MOOZY 达到 F1 0.769、AUC 0.763、平衡准确率 0.702。Case transformer 的贡献显著：不使用 case transformer（使用平均池化）时，宏平均为 F1 0.749、AUC 0.737、平衡准确率 0.682，使用 case transformer 后提升到 F1 0.769、AUC 0.763、平衡准确率 0.702，在16个任务中的14个上 F1 有改善、12个上 AUC 有改善、13个上平衡准确率有改善。注意力图谱分析显示 MOOZY 的语义缺口得分最低（平均1.00，最佳），偏向得分接近平衡（2.63），表明模型能够广泛关注组织并保持肿瘤和周围组织的平衡焦点。UMAP 可视化显示 MOOZY 在 CPTAC 癌症类型和 TCGA 癌症类型分类上具有最清晰的类别分离，TITAN 紧随其后，而 Madeleine 和 PRISM 显示更多重叠。

**Table 1**: Frozen-feature MLP probe comparison against slide encoder baselines on sixteen held-out tasks

**Table 2**: Macro-average MIL comparison across sixteen held-out tasks

**Table 3**: Unified macro-average ablation across sixteen held-out tasks

**Fig. 1**: Sixteen held-out tasks performance comparison (a)(b) and parameter efficiency (c)

**Fig. 5**: Attention-map comparison on a lung adenocarcinoma slide

**Fig. 6**: UMAP qualitative comparison across four slide encoders and three tasks

查看结构化数据

任务	指标	本文	基线	提升
Residual Cancer Burden	Weighted F1	0.56 plus-minus 0.05	PRISM 0.46 plus-minus 0.07	+21.7%
TP53 Mutation	Weighted F1	0.87 plus-minus 0.04	PRISM 0.85 plus-minus 0.03	+2.4%
BAP1 Mutation	Weighted F1	0.89 plus-minus 0.06	PRISM 0.80 plus-minus 0.07	+11.3%
ACVR2A Mutation	Weighted F1	0.91 plus-minus 0.05	PRISM 0.85 plus-minus 0.03	+7.1%
KRAS Mutation	Weighted F1	0.85 plus-minus 0.04	PRISM 0.72 plus-minus 0.07	+18.1%
IDH Status	Weighted F1	0.97 plus-minus 0.02	PRISM 0.91 plus-minus 0.02	+6.6%
Macro-average (16 tasks)	Weighted F1	0.769	PRISM 0.727	+4.19%
Macro-average (16 tasks)	Balanced Accuracy	0.702	PRISM 0.623	+7.93%
Macro-average (16 tasks)	Weighted ROC-AUC	0.763	PRISM 0.694	+6.95%

局限与改进

论文承认的局限性包括：MOOZY 与其他切片编码器一样，针对全局患者级预测设计，因此不支持密集预测或像素级分割任务。显式跨切片聚合的益处还有待在专门设计以需要更深多切片推理的任务上量化。作者提出的未来方向包括病例级检索、切片报告共同训练和基因组融合。此外，论文的评估主要集中在分子突变预测和组织学分级等临床终点，对于更复杂的场景（如多模态诊断、治疗响应预测的动态建模）的探索有限。论文使用的 token cap 策略虽然解决了内存限制问题，但可能会丢失某些细节信息，特别是在大型或高度异质性的切片中。最后，虽然 MOOZY 在公共数据上训练，但其泛化能力到外部医院或不同扫描仪域的验证还不够充分。

独立分析的弱点

独立分析的弱点包括：第一，token cap 策略使用分层随机采样，虽然保留空间覆盖，但可能丢失关键区域的信息，特别是对于高度稀疏的病例（如仅有少量癌细胞的切片）。改进方向可以是自适应采样策略（如基于视觉显著性或不确定性估计的采样）或分层多尺度处理。第二，case transformer 目前只使用3层，容量有限，对于具有大量切片（如超过10张）的复杂病例，可能难以充分建模切片间的复杂关系。改进方向可以是动态调整 case transformer 的深度（根据切片数量自适应）或引入图神经网络来显式建模切片间的拓扑关系。第三，论文的生存分析使用离散风险模型，虽然灵活但需要对每个任务确定最佳分箱数（2-16），且对删失数据的处理较为简单。改进方向可以是连续时间模型或更复杂的删失数据处理策略。第四，论文的注意力图谱分析仅基于20张代表性切片，规模较小，且主观性较强。改进方向可以是更大规模的定量分析或结合自动化的注意力-疾病区域对齐评估。

未来方向

作者提出的未来工作包括：在专门设计以需要更深多切片推理的任务上量化显式跨切片聚合的益处，向病例级检索、切片报告共同训练和基因组融合等方向扩展。基于论文成果的可延伸方向包括：将 MOOZY 扩展到多模态设置（如结合放射学影像、临床文本、基因组数据），构建统一的临床决策支持系统；探索更复杂的患者级建模（如图神经网络建模切片间的拓扑关系、注意力机制建模时间维度）；开发实时推理框架，将 MOOZY 集成到临床工作流中；研究跨模态检索（如文本到切片、切片到切片）的应用；探索联邦学习设置下的训练，以在保护隐私的情况下利用多中心数据；开发可视化工具，帮助病理学家理解模型预测并建立信任。

复现评估

论文的可复现性较好。代码已开源（github.com/AtlasAnalyticsLab/MOOZY），训练配方和数据预处理流程详细描述在附录中。数据方面，论文完全使用公共数据集（56个数据集，包括 TCGA、CPTAC、REG、CAMELYON17 等），原始切片数据约 31.8 TB，提取了约16亿个图块，预计算了77134个切片特征网格（53286个20倍率，23848个40倍率）。虽然原始数据量巨大，但预计算的图块特征和切片网格大大降低了资源需求。算力方面，阶段1训练需要约 436 GPU 小时（8 GPU，200轮），阶段2需要约 512 GPU 小时（8 GPU，20轮），总计约 948 GPU 小时，这在现代计算资源上是可实现的。论文提供了详细的超参数设置（批次大小、学习率、优化器配置等）和消融实验，使得复现和进一步研究成为可能。主要挑战是原始数据的下载和存储需求，以及预计算图块特征的预处理时间。

MOOZY：以患者为中心的计算病理学基础模型 MOOZY: A Patient-First Foundation Model for Computational Pathology