HalluHard：一个困难的多轮幻觉评测基准

提出950道高难度多轮幻觉基准，揭示前沿LLM仍存在约30%+的幻觉率

前置知识

幻觉（Hallucination）

大语言模型产生的看似合理但缺乏事实依据的陈述。幻觉可分为两类：上下文内幻觉（in-context hallucination），即模型输出与提供的上下文不一致；参数内幻觉（in-parameter hallucination），即模型输出与其训练数据中编码的知识不一致。本文将幻觉严格定义为有据性（groundedness）的缺失：如果输出既不被上下文文档支持，也不被模型参数中的知识支持，则视为幻觉。这种定义与检索错误、训练数据偏差和推理错误区分开来。

理解幻觉的精确定义是理解本文评测框架的基础。本文将幻觉区分为引用失败（reference grounding failure）和内容有据性失败（content grounding failure），这种细粒度分类直接影响评测结果的解读。

多轮对话幻觉

在多轮对话场景中，模型需要基于整个对话历史生成回复。随着对话轮次增加，模型会逐渐积累上下文信息，早期的错误可能在后续轮次中被放大和传播。这种自条件效应（self-conditioning effect）使得幻觉率随轮次上升，与单轮场景下的幻觉行为有本质区别。

本文的核心贡献之一就是首次系统研究多轮场景下的幻觉行为。多轮对话是用户使用LLM的主要方式，但已有基准主要聚焦单轮评估，无法反映真实的幻觉风险。

引用有据性验证（Citation-based Groundedness）

要求模型在生成事实性陈述时提供内联引用（inline citations），然后通过验证这些引用是否存在以及引用内容是否支持模型的陈述来判断幻觉。这种方法将开放式的长文本生成转化为可验证的评测任务。引用验证包括两个层面：引用是否真实存在（reference grounding）和引用内容是否支持模型所述（content grounding）。

这是本文评测框架的核心机制。通过要求模型提供引用，评测系统能够具体地验证每个原子事实声明，而非依赖模糊的整体评估。

SAFE评测器

Search-Augmented Factuality Evaluator，来自LongFact基准。它从模型回复中提取原子事实声明，然后使用Serper API进行Google搜索验证。SAFE每次搜索返回的是网页片段（snippets），而非全文，因此对于需要更多上下文的声明（如表格、图表、脚注中的信息）验证能力有限。

本文的评测系统正是在SAFE基础上改进的。理解SAFE的局限性（如片段检索不充分、无法解析PDF全文）有助于理解本文提出的新评测管道的创新之处。

有据性失败类型

本文将幻觉分为两种有据性失败：引用失败（reference grounding failure）指模型引用的来源不存在或信息不匹配；内容有据性失败（content grounding failure）指引用来源存在但其内容并不支持模型的陈述。实验证明，内容有据性失败远比引用失败更常见，即使启用网页搜索也是如此。

这种细粒度的失败分类揭示了一个关键洞察：网页搜索可以解决引用不存在的问题，但无法解决模型对来源内容的错误理解和编造问题。

研究动机

现有幻觉评测基准存在三个核心问题导致它们无法准确反映真实世界的幻觉行为。首先是饱和问题：SimpleQA这类单轮短答案基准已经被前沿模型近乎解决，GPT-5-thinking配合网页搜索可达到95.1%准确率，考虑到SimpleQA约3%的基准误差率，性能已接近天花板。LongFact的幻觉率在GPT-5家族中可低至约1%。其次是场景不匹配问题：现有基准大多采用单轮短答案或分类格式，而现实中用户主要通过多轮开放式对话与LLM交互，上下文不断演化、引用累积、早期错误可能传播。第三是评测能力限制：主流的SAFE评测器仅检索网页片段而非全文，对于需要更广泛上下文、更长引述或深入文档细节的声明验证不足，可能将正确声明标记为不支持或接受错误声明。

本文的目标是本文旨在构建一个在网页搜索工具辅助下仍然保持高难度的多轮幻觉评测基准HALLUHARD，包含950道覆盖法律案例、研究问题、医疗指南和编程四个高风险领域的种子问题。具体目标是：为前沿模型创建一个不会快速饱和的评测体系，系统性地量化模型容量、对话轮次、推理努力和知识类型对幻觉行为的影响，并提出一个可靠的基于引用验证的LLM评测管道，该管道能够获取包括PDF在内的全文源进行内容有据性验证。

与已有工作不同的是，本文的独特切入角度在于三点：一是聚焦小众知识（niche knowledge）——那些在训练数据中稀少但在高风险领域频繁出现的信息，如本地画廊的艺术作品、少于50次引用的学术论文、不常见编程语言的库函数；二是引入多轮对话设计，通过用户LLM生成自然的后续问题来模拟真实交互场景，研究错误传播效应；三是提出全文检索验证机制，不仅检查引用是否存在，还深入验证引用内容是否真正支持模型陈述，暴露了模型引用正确来源但编造细节的微妙失败模式。

核心方法

HALLUHARD的整体方法可以类比为一次严格的学术论文审稿过程：首先让模型'写论文'（生成带有内联引用的多轮回复），然后由一个自动化'审稿人'（评测管道）逐条检查每个事实声明的引用是否真实存在、引用内容是否支持所述结论。技术路线分为三个阶段：种子问题构建、多轮回复生成和基于引用的评测。种子问题从四个高风险领域精心挑选，确保涉及小众知识；多轮回复通过用户LLM生成后续问题，模拟真实对话；评测管道则对每个原子声明进行引用存在性验证和内容有据性验证，对于编程领域采用回复级别的整体验证。

本文最核心的创新在于区分并独立测量两种有据性失败——引用失败和内容有据性失败。已有工作（如SAFE）主要关注引用是否存在，但本文发现一个被忽视的微妙失败模式：模型可能引用了正确的来源，但编造了来源中不存在的细节。这种'引用正确但内容编造'的幻觉比引用不存在更难被用户察觉。为此，本文的评测管道能够获取网页全文和PDF解析文本，对每个声明进行严格的全文验证。实验证明，内容有据性失败率远高于引用失败率，例如在研究问题领域，GPT-5.2-thinking的内容有据性失败率高达73.8%，而引用失败率仅28.1%。

方法步骤详情

HALLUHARD的评测流程包含以下步骤：第一步是种子问题构建，从法律案例（250题，来自Magesh et al.的验证题目和加州律师考试）、研究问题（250题，基于2023年前的ArXiv论文摘要，一半小众论文、一半知名论文）、医疗指南（250题，基于NICE公开指南PDF）和编程（200题，覆盖Python、Scala、R、Elixir四种语言）四个领域收集。第二步是多轮回复生成，用户提供种子问题后，目标LLM生成第一轮回复，然后由用户LLM基于对话历史生成后续问题，共进行3轮。所有回复都要求模型提供内联引用。第三步是声明提取，使用LLM从助手回复中提取可验证的原子事实声明，确保每个声明同时包含引用和支持内容。第四步是证据检索规划，对于每个声明，规划器迭代地生成搜索查询并通过Serper API获取候选来源，LLM判断当前证据是否充分，最多进行5轮检索。第五步是上下文选择，从HTML链接直接获取文本或下载PDF并解析，使用text-embedding-3-small嵌入模型检索最相关的文本块（约1500词上限）。第六步是判断和裁决生成，判断模块将每个声明与筛选后的证据对比，输出包含引用有据性、内容有据性、幻觉裁决和验证错误标志的结构化决策。对于编程领域，采用回复级别的整体验证，由带网页搜索的GPT-5-mini作为评判者。

技术新颖性

相比SAFE等已有评测方法，HALLUHARD在以下方面具有技术新颖性：第一，全文检索能力——能够从HTML获取完整文本并解析PDF，而非仅依赖搜索片段，这对于验证需要深入文档细节的声明至关重要。第二，自适应证据收集——由LLM规划器决定何时证据充分，而非固定次数的搜索调用，更高效也更准确。第三，多轮对话设计——通过用户LLM生成自然后续问题，研究错误传播效应，发现3-20%的错误引用会在后续轮次中重复出现。第四，领域多样性——覆盖法律、研究、医疗和编程四个高风险领域，编程领域还创新性地设计了三种幻觉类型（安装幻觉、导入幻觉、函数调用幻觉）。第五，评测成本效益——评测10个回复的Serper调用成本约$0.11，总成本约为OpenAI-WS的三分之一。

实验结果

HALLUHARD的评测结果揭示了多个重要发现。首先，即使是最强的前沿模型，在启用网页搜索的情况下幻觉率仍然显著：Claude-Opus-4.5配合网页搜索在法律案例、研究问题、医疗指南和编程领域的幻觉率分别为33.0%、29.6%、29.2%和29.0%，平均30.2%；GPT-5.2-thinking配合网页搜索的平均幻觉率为38.2%。这表明网页搜索远非幻觉问题的'银弹'。其次，模型容量与幻觉率呈负相关：从GPT-5-nano（平均85.1%）到GPT-5-mini（75.9%）到GPT-5（71.8%）到GPT-5.2（58.8%），幻觉率持续下降；Claude家族中Haiku（79.5%）、Sonnet（65.6%）、Opus（60.0%）也呈现同样趋势。第三，对话轮次效应显著：在法律案例领域，多个模型在第2、3轮的幻觉率明显高于第1轮，这是因为模型会条件化于自身的早期错误——研究问题领域中3-20%的错误引用在后续轮次中重复出现。第四，推理能力对幻觉有显著影响：启用推理（thinking）模式后幻觉率明显下降，但增加推理努力（从low到medium到high）并不总能带来进一步改善。GPT-5.2在法律案例领域，low推理努力下幻觉率28.8%，medium为33.5%（反而上升），high为25.7%；Opus-4.5在不同推理努力下几乎没有差异（46.2%到44.8%）。第五，内容有据性失败远比引用失败更普遍：在研究问题领域，GPT-5.2-thinking启用网页搜索后引用失败率从28.1%降至6.4%，但内容有据性失败率仍高达51.6%；Opus-4.5的引用失败率从38.6%降至7.0%，内容有据性失败率从83.9%降至29.5%。第六，编程领域的语言差异显著：Python的幻觉率最低（如GPT-5为28.7%），Scala和Elixir较高（如GPT-5在Scala为63.3%），这与Python在训练数据中的高频出现有关。

查看结构化数据

任务	指标	本文	基线	提升
法律案例	幻觉率(%)	Claude-Opus-4.5-WS: 33.0	GPT-5-nano: 77.3	降低44.3个百分点
研究问题	幻觉率(%)	Claude-Opus-4.5-WS: 29.6	GPT-5-nano: 96.9	降低67.3个百分点
医疗指南	幻觉率(%)	Claude-Opus-4.5-WS: 29.2	GPT-5-nano: 95.3	降低66.1个百分点
编程	幻觉率(%)	GPT-5.2-thinking-WS: 15.8	GPT-5-nano: 71.0	降低55.2个百分点
全领域平均	幻觉率(%)	Claude-Opus-4.5-WS: 30.2	GPT-5-nano: 85.1	降低54.9个百分点
研究问题-引用失败	引用失败率(%)	GPT-5.2-T+WS: 6.4	GPT-5.2-T: 28.1	降低21.7个百分点
研究问题-内容有据性失败	内容有据性失败率(%)	Opus-4.5+WS: 29.5	Opus-4.5: 83.9	降低54.4个百分点
短QA-小众知识	幻觉率(%)	多个模型: 60-80%	虚构知识: 10-30%拒绝	小众知识比虚构知识更难处理

局限与改进

HALLUHARD的评测系统存在以下局限性：首先，评测管道的判断质量依赖于搜索API的检索质量和LLM的判断能力。人工评估显示，本文的评测器在内容有据性判断上与人类标注者的一致率为87.9%，虽然优于SAFE（81.8%）和OpenAI-WS（84.9%），但仍有约12%的判断与人类不一致。主要分歧来自对'充分支持'的严格程度差异：评测器有时过度要求术语精确匹配，有时又对概念性改述不够严格。其次，对于研究问题领域，许多论文主要以PDF形式存在，模型无法直接打开检索链接中的PDF文件来验证细节，这限制了网页搜索在该领域的有效性。第三，编程领域的幻觉评估采用回复级别而非声明级别，因为函数可能在提供的代码上下文中定义，逐个声明提交给网页搜索会产生误报。第四，当前的多轮设计仅包含3轮对话，更长的对话可能揭示更严重的错误传播效应。第五，短QA实验中观察到模型在面对小众知识和虚构知识时行为差异显著：模型倾向于对小众知识猜测（因为有非零概率猜对），而对虚构知识更愿意拒绝回答，这种'中间地带'的不确定性处理是一个未解决的挑战。

独立分析的弱点

本文存在几个值得关注的弱点。第一，用户LLM生成的后续问题质量可能影响多轮评测的公平性：如果后续问题过于简单或过于发散，可能掩盖真实的幻觉行为。改进方向是引入人工校验的后续问题模板或设计更严格的后续问题生成约束。第二，编程领域的评测仅覆盖四种语言（Python、Scala、R、Elixir），且幻觉类型仅限于安装、导入和函数调用三类，未覆盖更广泛的代码幻觉场景如算法逻辑错误、API语义误解等。改进方向是扩展语言覆盖面并设计更细粒度的代码幻觉分类。第三，短QA实验与多轮长文本实验的评测方法差异较大（前者用模板问题，后者用用户LLM生成问题），可能导致结果可比性受限。改进方向是设计统一的评测框架。第四，对于'模型应该在何时拒绝回答'这一核心问题，本文仅在短QA实验中初步探索，未在多轮长文本场景中系统研究。改进方向是设计专门的拒绝行为评测任务。

未来方向

作者和基于本文成果可延伸的未来研究方向包括：第一，开发更可靠的全文检索和验证技术，特别是针对PDF文档的端到端解析和验证能力，这对于研究和医疗领域尤为重要。第二，研究更长对话轮次下的错误传播机制，目前仅测试3轮，更长对话可能揭示更复杂的级联效应。第三，探索测试时计算（test-time compute）与网页搜索的协同效应：本文发现增加推理努力并不总能降低幻觉率，但可能与更强大的验证工具结合产生协同效果。第四，开发专门针对小众知识的不确定性感知训练方法，使模型能够更好地识别知识边界并在证据不足时主动拒绝回答而非猜测。第五，将评测框架扩展到更多领域和语言，特别是中文、日文等非英语场景下的幻觉行为。第六，基于HALLUHARD的评测结果开发针对性的幻觉缓解策略，如引用验证增强训练、多轮对话中的错误传播检测机制等。

复现评估

HALLUHARD的复现条件较为友好：代码和数据已在GitHub（https://github.com/epfml/halluhard）和网站（https://halluhard.com/）公开发布。评测管道的各个组件（声明提取、证据检索、判断生成）均使用公开的LLM API（GPT-5-mini作为主要判断模型）和Serper搜索API实现。评测10个回复的Serper调用成本约$0.11，加上GPT-5-mini-thinking的调用成本，总评测成本相对可控。然而，完全复现仍有挑战：首先，需要访问多个前沿模型的API（OpenAI、Anthropic、Google、DeepSeek等），这些API可能产生显著费用；其次，评测管道包含复杂的多步骤流程（声明提取→证据检索→全文获取→PDF解析→嵌入检索→判断生成），每步都可能引入细微差异；第三，部分评测结果依赖于模型的默认设置（如推理努力、温度），不同API版本可能导致结果差异。总体而言，对于有API访问权限的研究者，复现难度中等。

HalluHard：一个困难的多轮幻觉评测基准 HalluHard: A Hard Multi-Turn Hallucination Benchmark