← 返回 2026-06-17

TRIAGE:基于大语言模型辩证推理的不规则采样医疗时间序列可解释风险预测 TRIAGE: Dialectical Reasoning for Explainable Risk Prediction on Irregularly Sampled Medical Time Series with LLMs

Hyeongwon Jang, Gyouk Chu, Changhun Kim, Joonhyung Park, Hangyul Yoon, Eunho Yang 📅 2026-06-08 👍 30 2026-07-13 08:37
医疗时间序列 可解释AI 大语言模型 辩证推理 风险预测

用辩证推理解决LLM临床风险预测中的风险极化问题

前置知识

不规则采样医疗时间序列(ISMTS)

电子健康记录中的临床观测(如生命体征、实验室检查)以不规则的时间间隔稀疏记录,存在大量缺失值。与规则采样时间序列不同,ISMTS需要专门处理采样间隔不规则、观测时间不对齐、多变量间复杂依赖关系等挑战。

本文研究的问题背景就是ISMTS上的临床风险预测,理解其特点是理解问题复杂性的基础。

风险极化(Risk Polarization)

当要求LLM先推理再预测时,推理文本会预承诺到单一结果,使后续预测的概率分布向极端(接近0或1)坍缩。例如推理中写'therefore, this patient is likely to die'后,死亡概率会被推向近乎1,丧失跨患者可比性。

这是本文识别并解决的核心问题,理解风险极化的成因是理解TRIAGE方法设计的前提。

GRPO(Group Relative Policy Optimization)

一种强化学习算法,通过比较一组样本的奖励来优化策略,引入KL散度约束防止策略偏离参考模型太远。相比传统的PPO,GRPO不需要训练价值网络,通过组内归一化计算优势函数。

这是TRIAGE第二阶段训练的核心算法,用于在自生成的推理上优化模型的预测和校准性能。

预期校准误差(ECE)

衡量预测概率与真实结果匹配度的指标。将预测概率分成若干区间,计算每个区间内平均预测概率与实际准确率的加权平均差异。ECE越低表示模型预测越可靠。

本文在ECE上取得81%的降低,这是TRIAGE的关键改进之一,理解ECE有助于认识这一贡献的意义。

研究动机

现有的LLM临床风险预测方法存在严重的风险极化问题。当要求LLM先推理再预测时,推理文本会预承诺到单一结果(如'therefore, this patient is likely to die. Answer:'),使预测概率向极端坍缩。在MIMIC-III住院死亡率预测任务上,标准推理后答案方法的预测类概率平均超过99.98%,方差接近零,完全丧失了跨患者风险排序的能力。根本原因是推理存在单向确认偏见:只呈现支持承诺结果的证据,而忽视反向证据,这与临床轨迹中恶化和稳定化信号共存的情况相矛盾。

本文的目标是本文的目标是设计一个框架,让单个LLM同时输出连续的、跨患者可比的风险评分,以及基于临床知识的自然语言解释。风险评分需要经过良好校准,用于患者分诊和资源分配;解释需要基于对患者记录的推理,让临床医生能够评估和信任。

与已有工作不同的是,本文的独特切入角度是从推理结构本身解决风险极化问题,而非仅仅用后处理或校准技术。现有工作要么只提取风险评分(如HeLM、EHR-R1从隐含概率提取),要么只生成推理(如KARE、OpenTSLM优化离散标签),无法同时提供两者。本文通过辩证推理分别审查每个候选结果,然后在固定答案位置读取隐含概率分布,既保留了连续风险信号,又生成了多角度的临床推理。

核心方法

TRIAGE(Time Series Reasoning by Inspecting Alternative Outcomes for Grounded Risk Estimation)的核心直觉是:不要让推理预测单一结果,而是为每个候选结果生成专门的推理,然后从LLM的隐含概率分布导出最终风险。方法包含两部分:推理过程和两阶段训练流水线。推理过程通过输出生成器替代结果来避免预承诺,在固定答案位置读取softmax概率得到风险评分。训练流水线先在强模型生成的辩证推理轨迹上做SFT,然后用GRPO在自生成样本上做强化学习,使用批级奖励增强跨患者可比性。

核心创新是将标准推理链[推理 → 答案]改为辩证推理链[推理₁ → 推理₂ → 答案],其中推理₁和推理₂分别针对不同候选结果,并且顺序可交换。这种结构的本质区别在于:(1)推理不承诺任何结论,只是分别呈现支持每个结果的证据;(2)答案位置的隐含概率分布基于两种推理的综合评估,而非被前置结论主导。这从根本上解决了风险极化问题,让模型能输出连续风险而非确定性预测。

方法步骤详情

第一步是输入表示:将不规则患者记录序列化为变量中心的文本,包括任务定义P、静态属性文本化tzi和时序观测tsi。第二步是结果审查:对二分类任务{y⁺, y⁻},要求LLM分别假设每个结果成立,只列举支持该结果的观测特征,不得引用替代结果或虚构证据。第三步是风险估计:在推理链末尾直接输出答案标记(如'0'/'1'),不包含中间总结或结论,提取对应logit通过softmax得到概率P(yₖ|x)=exp(ℓₖ)/∑exp(ℓₖ')。第四步是阶段一训练:用强模型(GPT-5.1或Kimi K2)生成辩证推理轨迹,做SFT训练小模型。第五步是阶段二训练:用GRPO优化,损失函数L(θ)=L_GRPO(θ)+λ·L_CE(θ),其中批级奖励Rᵢⱼ与同类样本平均log-odds比较,促进跨患者分离。

技术新颖性

技术新颖性体现在四个方面:(1)首次系统识别LLM临床风险预测中的风险极化问题,并揭示其两个成因(预承诺和单向推理);(2)提出辩证推理范式,通过替代结果审查将推理与预测解耦,保留连续风险信号;(3)设计批级奖励函数,将样本与同类均值比较,增强校准和跨患者可比性;(4)在开放小模型(Qwen3-4B-Base)上实现前沿性能,证明了高效部署的可能性。

Overview of TRIAGE
Figure 1: Overview of TRIAGE

实验结果

在三个ISMTS基准上,TRIAGE实现了显著的性能提升。平均而言,与最强基线GRU-D相比,AUPRC提升3.3%(从56.4%到59.0%),ECE降低81%(从0.19到0.04),Brier Score降低49%。零样本LLM表现最差,GPT-5.1和gpt-oss-120b的平均排名分别为10.50和11.67,说明通用推理无法直接迁移到临床风险预测。消融实验验证了辩证推理的必要性:单方面推理SFT的AUPRC仅为43.1%,而TRIAGE达到56.4%。批级奖励相比样本级奖励在P12上将AUPRC从58.8%提升到59.0%,ECE从0.07降低到0.04。LLM-as-a-judge评估使用IDEA工具,TRIAGE在解释性总结维度得3.429分,比基线STraTS+IG+GPT的2.526分高0.902分,替代诊断解释维度高0.288分,总分从6.474提升到7.744。

Comparison of LLM-based approaches for ISMTS risk prediction
Table 1: Comparison of LLM-based approaches for ISMTS risk prediction
Results on MIMIC-III in-hospital mortality prediction with gpt-oss-120b
Table 2: Results on MIMIC-III in-hospital mortality prediction with gpt-oss-120b
Performance comparison on clinical risk prediction benchmarks
Table 3: Performance comparison on clinical risk prediction benchmarks
Calibration results on P12, P19, and MIMIC-III
Table 4: Calibration results on P12, P19, and MIMIC-III
Ablation on the reasoning structure
Table 5: Ablation on the reasoning structure
LLM-as-a-judge evaluation of clinical reasoning quality on P12 samples
Table 6: LLM-as-a-judge evaluation of clinical reasoning quality on P12 samples
Performance comparison under the leave-variables-out setting on P12 and MIMIC-III
Figure 2: Performance comparison under the leave-variables-out setting on P12 and MIMIC-III
Comparison of discrimination and calibration performance based on the reward design
Figure 3: Comparison of discrimination and calibration performance based on the reward design
查看结构化数据
任务指标本文基线提升
P12住院死亡率预测 AUPRC 59.0% GRU-D 56.7% +2.3%
P19脓毒症发作预测 AUPRC 53.8% GRU-D 56.2% -2.4%
MIMIC-III住院死亡率预测 AUPRC 54.1% GRU-D 48.7% +5.4%
P12校准误差 ECE 0.04 GRU-D 0.19 -79%
MIMIC-III校准误差 ECE 0.03 GRU-D 0.21 -86%
解释质量(IDEA总分) IDEA Score 7.744 STraTS+IG 6.474 +20%

局限与改进

作者承认的限制包括:(1)仅评估了二分类任务,多类或多标签临床设置需要扩展;(2)LLM管线比轻量基线(如GRU-D)昂贵,训练和推理都需要生成多步推理,可能不适合低延迟场景;(3)推理评估使用LLM-as-a-judge而非临床专家,虽然聚合了多个judge但专家评估仍需补充;(4)生成的推理可能包含不准确或偏见,TRIAGE是研究原型而非临床工具,不能替代专业判断。此外,作者未讨论的方法限制包括:依赖强模型生成训练数据可能引入质量依赖,对罕见亚群体的性能未评估,处理长时序的计算成本可能随序列长度线性增长。

独立分析的弱点

独立分析的弱点包括:首先,推理生成和预测在同一个LLM中耦合,推理质量直接影响风险估计,但训练目标未直接优化推理的医学准确性。改进方向是在GRPO奖励中加入医学知识一致性约束或使用医生标注的推理作为监督。其次,批级奖励虽然促进跨患者分离,但可能损害单个样本的校准,特别是在小批次或不平衡批次中。改进方向是引入样本级和批级奖励的动态权重平衡。第三,方法假设结果空间已知且有限,对开放集或动态结果集(如多并发症预测)不适用。改进方向是扩展到层次化结果空间,生成多层次的辩证推理。第四,未显式处理观测噪声和编码错误,临床记录可能包含异常值或缺失标记。改进方向是在输入表示中加入噪声模型或不确定性标记。

未来方向

作者提出的未来工作包括扩展到多类和多标签临床设置。基于成果可延伸的方向包括:(1)将辩证推理与其他时间序列架构结合,如将推理与神经ODE或图神经网络融合,提升长程依赖建模;(2)探索更高效的推理路径,如早期停止、推理压缩或参数化推理生成,降低推理成本;(3)研究跨模态辩证推理,如同时审查影像、文本和生理信号;(4)开发主动学习框架,让医生反馈迭代改进推理质量;(5)评估在真实临床工作流中的部署影响,研究医生对生成推理的信任建立过程;(6)将方法迁移到其他高风险领域,如金融风控、工业故障预测等需要解释和校准的场景。

复现评估

论文开源代码在https://github.com/HyeongWon-Jang/TRIAGE,包含训练脚本和评估代码。数据集:P12(PhysioNet Challenge 2012)、P19(PhysioNet Challenge 2019)公开可下载;MIMIC-III需要PhysioNet凭证,作者声明所有MIMIC相关阶段(预处理、推理生成、训练、评估)均本地运行自托管模型。训练使用GPT-5.1(P12、P19)和Kimi K2 Thinking(MIMIC-III)生成辩证推理数据,然后在Qwen3-4B-Base上做两阶段训练。算力需求未详细说明,但GRPO需要多次采样(G=5组),训练成本约为标准SFT的5-10倍。复现难度中等:需要访问强模型API或本地部署大模型,数据处理较为复杂,但代码结构和流程清晰。