← 返回 2026-01-06

多轮对话中大语言模型的置信度估计 Confidence Estimation for LLMs in Multi-turn Interactions

Caiqi Zhang, Ruihan Yang, Xiaochen Zhu, Chengzu Li, Tiancheng Hu, Yijiang River Dong, Deqing Yang, Nigel Collier 📅 2026-01-05 👍 17 2026-07-13 08:35
不确定性量化 多轮对话 模型校准 置信度估计
arXiv HuggingFace PDF

首个系统性研究多轮对话中LLM置信度估计的工作，提出P(SUFFICIENT)方法

前置知识

Expected Calibration Error (ECE)

ECE是衡量模型置信度校准程度的指标，它将预测样本按置信度分桶，计算每个桶内置信度均值与准确率均值的绝对差的加权平均。理想情况下，校准良好的模型在置信度80%的桶中准确率也应接近80%。ECE越低表示校准越好。

本文提出InfoECE是ECE在多轮场景下的扩展，需要理解ECE基础概念才能理解本文的评估指标设计

Kendall's Tau (τ)

Kendall's Tau是一种非参数统计量，用于衡量两个变量之间的等级相关性。对于多轮对话中的置信度序列，τ计算置信度单调递增的有序对（协调对）占比减去单调递减的有序对（不协调对）占比，取值范围在-1到1之间，1表示严格单调递增，0表示无趋势。

本文使用τ作为量化多轮对话中置信度单调性的核心指标，理解这个概念对理解本文的第二个关键评估维度至关重要

Self-Consistency (SC)

SC是一种基于采样的置信度估计方法，通过从同一输入多次采样生成多个答案，计算与当前答案相同的采样占比作为置信度。例如采样20次，如果8次答案与当前答案一致，则置信度为0.4。该方法基于模型内部一致性而非口头表达。

SC是本文对比的基准方法之一，理解其工作原理有助于理解为什么SC在多轮设置中表现特殊

研究动机

现有LLM置信度估计研究几乎全部聚焦于单轮问答场景，例如一次性问答、长文本生成等静态设置。然而在真实的人机协作场景中，如自主智能体、人机协同系统等，信息是逐步累积的：用户会细化查询、模型会提出澄清性问题、假设空间会逐轮缩小。在这种动态设置中，置信度不应是单一响应的固定属性，而应随着对话演进而变化，理想情况下随着模糊性消除和证据累积而递增。当前方法如何跟踪这种进展完全未知，存在显著研究空白。

本文的目标是本文的目标是填补这一研究空白，建立LLM在多轮对话中置信度估计的第一个系统研究框架。具体而言，作者希望定义多轮置信度估计的理想属性，开发适用于可变长度对话的评估指标和测试数据集，系统评估现有置信度估计方法在动态对话中的表现，并提出改进方法以实现更可靠、值得信赖的对话式AI代理。

与已有工作不同的是，本文的独特切入角度是从渐进信息获取的本质出发，认为可靠的多轮置信度信号必须满足两个核心期望：校准性（per-turn calibration），即在任何给定轮次置信度准确反映经验正确率；单调性（monotonicity），即随着更多任务相关信息变得可用，置信度一致递增。这两个期望构成了本文评估框架的基石，与以往单轮场景下仅关注最终答案校准的研究形成根本区别。

核心方法

本文方法的核心思想是在受控环境下研究多轮对话中的置信度估计，模型接收渐进式更多任务相关信息。作者设计了一个受控任务，该任务应展示三个关键特性：C1渐进信息获取，每轮揭示额外的任务相关信息，缩小假设空间或支持逐步推理；C2逐步可答性和可评估性，模型在每轮输出答案和置信度，实现每轮准确率和校准评估；C3置信度单调递进，置信度应随轮次索引增加并与真实准确率更紧密对齐。这种设计产生了一个可控制的测试平台，其中信息在轮次间严格累积，避免了片段式、非渐进交互的局限性。

本文的核心创新点在于提出了P(SUFFICIENT)探针方法，这是一种基于logit的新型置信度估计方法。与询问答案是否正确的P(TRUE)不同，P(SUFFICIENT)询问模型当前信息是否足以说明答案a是唯一正确的答案。这种方法在欠指定设置中特别有效，因为随着每轮提供更多线索，可能答案的集合会缩小。P(SUFFICIENT)允许模型即使其当前猜测碰巧正确，只要其他候选答案尚未被提供的线索排除，就可以表达低置信度。这使得置信度分数更紧密地与从累积证据中答案的真实可识别性对齐，而不仅仅是偶然正确性。

方法步骤详情

本文方法包含三个主要步骤。第一步是数据集构建，对于欠指定初始问题场景，作者构建了20Q和GUESS数据集，采用Hinter-Guesser范式：一个LLM被分配一个秘密实体，必须在每轮提供有用但不平凡的提示；Guesser则做出最佳猜测并标记是否仍有多个合理答案。对话持续进行直到Guesser既正确回答又认证唯一性。对于完全指定但困难的场景，直接使用现有GRACE和TRICKME数据集。第二步是评估指标计算，首先将对话d的第i轮归一化到分数信息水平sd,i=i/Ld，然后将[0,1]划分为B个桶，计算每个桶的平均置信度和准确率，得到InfoECE=(1/B)Σ|accb-confb|；使用Kendall的τ计算置信度单调性。第三步是置信度估计，对比五种方法：VANILLA-VERB、COT-VERB、SC、P(TRUE)和P(SUFFICIENT)。

技术新颖性

本文的技术新颖性体现在多个方面。首先，InfoECE是首个为多轮对话设计的长度归一化期望校准误差，它通过将轮次归一化到分数信息水平并按信息暴露度分组预测，实现了不同长度对话间公平的校准比较。其次，Hinter-Guesser范式是首次系统化生成受控多轮对话数据集的方法，它通过分离问题者和回答者角色，同时保留不确定性并强制每轮可评估性，解决了模拟两个LLM可能违反单调性要求的问题。第三，P(SUFFICIENT)探针将置信度从答案是否正确转向证据是否充分，这种概念转换使得置信度更符合多轮场景中证据累积的本质。

InfoECE on GUESS (Llama3.1-70B)
Figure 1: InfoECE on GUESS (Llama3.1-70B)

实验结果

本文实验在四个开源模型（Llama3.1-8B/70B、Qwen2.5-7B/72B）和四个数据集（20Q、GUESS、GRACE、TRICKME）上评估了五种置信度估计方法。核心发现包括：校准性普遍较差，充足性探针帮助最大。所有模型中，基于语言化的置信度（VANILLA-VERB、COT-VERB）和基于logit的P(TRUE)都校准很差，InfoECE值通常在40到80之间。自一致性（SC）通常在完全指定增量QA中最校准。在欠指定游戏中，充足性探针可以显著更好校准：对于Llama3.1-70B，InfoECE在20Q上降至13.05，在GUESS上降至5.27。单调性方面，P(SUFFICIENT)在当前答案上通常最好，例如在GUESS数据集上用Qwen2.5-72B达到τ=83.76，在TRICKME数据集上用Llama3.1-70B达到τ=71.38。当对每个轮次的真实答案评估置信度时，所有方法都显示出τ的大幅增加，表明模型可以部分识别当前提示何时与真实答案对齐。扩展和模型族效应显示，随着参数增加，观察到准确率一致上升和τ（排名校准）显著改善，特别是对于P(SUFFICIENT)。

InfoECE and τ across models and datasets
Table 2: InfoECE and τ across models and datasets
Average confidence comparison across different models and datasets
Table 3: Average confidence comparison across different models and datasets
Examples from the 20Q and GUESS datasets
Table 1: Examples from the 20Q and GUESS datasets
Examples from four datasets
Table 7: Examples from four datasets
Placebo QA Examples
Table 8: Placebo QA Examples
Evolution of average confidence and accuracy across different information levels
Figure 2: Evolution of average confidence and accuracy across different information levels
Performance comparison across four language models
Figure 4: Performance comparison across four language models
InfoECE of different confidence estimation methods across formats
Figure 5: InfoECE of different confidence estimation methods across formats
查看结构化数据
任务指标本文基线提升
20Q (Llama3.1-70B) InfoECE 13.05 51.00 (VANILLA-VERB) 74.4%
20Q (Llama3.1-70B) τ 48.43 -11.16 (VANILLA-VERB) 533.6%
GUESS (Qwen2.5-72B) InfoECE 28.32 57.56 (P(TRUE)) 50.8%
GUESS (Qwen2.5-72B) τ 83.76 54.87 (P(TRUE)) 52.6%
TRICKME (Llama3.1-70B) τ 71.38 47.47 (VANILLA-VERB) 50.3%

局限与改进

本文研究存在若干局限性。首先，渐进数据集和Hinter-Guesser协议简化了真实对话，忽略了话题转换、修复和混合意图等现象，这可能限制了对混乱、开放世界对话的迁移性。其次，本文研究聚焦于特定信息寻求任务，更开放、创造性或协作对话中的置信度动态仍然是一个开放问题。第三，本文评估强调校准和排序单调性，对用户效用和人类信任的下游影响需要受控用户研究和实地部署。第四，本文研究置信度而非不确定性，将框架扩展到不确定性量化及其与多轮设置中置信度的关系是重要的下一步。

独立分析的弱点

独立分析的弱点包括：P(SUFFICIENT)虽然在欠指定任务中表现突出，但在完全指定任务（如GRACE、TRICKME）中与SC相比优势不明显，说明其在不同类型任务上的泛化能力有限。P(SUFFICIENT)在单轮摘要格式下表现不稳定，对于较小模型（如Llama3.1-8B在20Q上从6.99恶化到24.57，在GUESS上从3.82恶化到9.41），摘要会破坏其校准，表明它依赖轮次结构的提示。某些方法（如P(TRUE)在GUESS上）可能被轮次计数混淆，在安慰剂提示下仍然上升（平均Δplacebo=+5.64，在2/4模型对中显著），表明其难以区分信息获取和对话长度增加。语言化置信度（VANILLA-VERB、COT-VERB）表现不稳定，有时会出现反直觉的变化（如Qwen2.5-7B在GUESS上信息性提示下下降-9.29，p=0.005），加上校准差，限制了它们的逐轮可靠性。

未来方向

未来研究方向包括：开发同时满足校准性和单调性的方法，作者虽然提出了P(SUFFICIENT)但该任务仍远未解决，需要新的方法能够在保持单调性的同时实现更好的校准。有效区分任务相关信息和对话填充物的方法，当前多数方法难以在添加安慰剂提示时保持置信度稳定，需要更精细的信息敏感性机制。在单轮摘要和多轮交互间保持鲁棒性的方法，当前P(SUFFICIENT)对小模型的格式敏感，需要设计不依赖对话结构而仅依赖信息内容的置信度估计。研究更开放、创造性或协作对话中的置信度动态，当前工作聚焦于信息寻求任务，需要扩展到更复杂的对话场景。研究置信度与用户信任、人类决策的关系，当前评估关注技术指标，需要通过用户研究验证置信度信号对实际任务的影响。将框架扩展到不确定性量化，当前研究置信度而非不确定性，两者关系在多轮设置中需要进一步探索。

复现评估

复现评估显示本文复现可行性良好。代码和数据已在GitHub开源（论文中明确标注），包括四个评估数据集（20Q、GUESS、GRACE、TRICKME）和评估脚本。实验使用的四个开源模型（Llama3.1-8B/70B、Qwen2.5-7B/72B）都是公开可获取的，不需要私有API。实验设置相对简单，主要是推理和置信度估计，不需要大规模训练，对算力要求适中。然而，复现者需要注意温度设置（采样时为1，否则为0）和提示模板的精确复制，因为微小的提示变化可能影响置信度输出。Hinter-Guesser数据集的构建依赖于模型的提示-回答对，不同模型版本可能产生不同的对话，作者提供了具体示例和构建协议。

论文图表

Figure 3: Kendall's τ for ground truth answers

该图展示了四种模型（Llama3.1-8B、Llama3.1-70B、Qwen2.5-7B、Qwen2.5-72B）在四个数据集（20Q、GUESS、GRACE、TRICKME）上使用五种置信度估计方法时，对每个轮次的真实答案评估的Kendall's τ值。与每轮答案的τ相比，所有方法都显示出单调性的大幅提升。

这张图对理解论文重要，因为它揭示了模型在识别与真实答案对齐的证据时的能力，这是理解多轮置信度估计机制的关键洞察。它表明模型内部有识别正确答案的能力，但在当前答案上的置信度表达可能不准确。