论 LLM 作为判别器评估科学创新性的局限性 On the Limits of LLM-as-Judge for Scientific Novelty Assessment
研究揭示 LLM 判别器在评估研究问题新颖性时存在严重不可靠性，与人类专家判断存在系统性偏差。
前置知识
LLM-as-Judge
LLM-as-Judge 是一种使用大型语言模型作为评判者来评估生成内容质量的评估范式。它广泛应用于开放性任务的自动评估中，如对话系统、机器翻译、创意生成等。传统的基于规则的评估方法难以处理这些开放性任务，而人工评估成本高昂且难以大规模扩展。LLM-as-Judge 通过精心设计的提示词，让模型根据特定的评分标准（如流畅性、相关性、创新性等）对生成内容进行打分或排名。这种方法虽然灵活且可扩展，但其可靠性取决于模型对评分标准的理解是否与人类评估者一致，以及模型是否会产生系统性偏差。
本文的核心就是研究 LLM-as-Judge 在科学创新性评估这一高难度任务上的可靠性。只有理解了这个评估范式的运作机制和潜在问题，才能明白本文的贡献和发现的意义。
研究问题
研究问题是科学研究的起点，它将文献中的研究空缺转化为具体的探究对象。在本文的框架中，研究问题与两个相关概念有明确区分：研究空缺是指现有研究中未解决的问题、未解决的争议或未经检验的假设；研究思路是为了回答研究问题而提出的方法、框架或方案。一个研究问题应该是开放性的，不预先承诺特定的方法或答案，但应该建立在现有文献的基础之上。本文特别关注的是从背景文献中推导出有意义的研究问题这一上游任务，而不是评估完整的研究思路或方法。
本文选择研究问题作为研究对象是因为它比完整的研究思路更容易评估（不需要判断方法的可行性、实验设计等），但仍然需要新颖性判断。理解研究问题的概念框架有助于理解本文构建的基准数据集和评估方法。
作者锚定研究问题
作者锚定研究问题是从已发表论文中重建的研究问题。具体来说，给定一篇目标论文，作者首先识别该论文引用的重要文献，提取这些文献的局部引用语境，然后识别目标论文作者在这些引用中识别并解决的空缺，最后从这些空缺推导出研究问题。这个过程确保了重建的研究问题与目标论文的核心贡献直接相关。作者锚定研究问题不是该背景文献唯一有效的研究问题，但它提供了一个具体的人类参考点：它是由真实作者提出并导致了一篇已发表论文的问题。这使得我们可以将模型生成的研究问题与这个人类参考点进行比较。
作者锚定研究问题是本文评估方法的核心。它们作为参考标准，使得我们可以测试 LLM 判别器是否能够可靠地评估研究问题的新颖性。只有理解了这个概念及其与模型生成问题的关系，才能理解本文的实验设计和结论。
非显而易见性
非显而易见性是新颖性评估的一个关键维度，衡量一个研究问题是否需要深度思考才能提出，而不是任何读者都能想到的标准下一步。在本文的评分标准中，非显而易见性分为四个等级：0 分代表简单的后续跟进，任何读者都会提出的标准实验；1 分代表某种程度的明显扩展；2 分代表需要思考才能提出，具有非显而易见的表述或机制；3 分代表 striking 或意外的角度，背景文献没有暗示。这个维度与原创性和空缺处理一起构成了本文的新颖性评估框架。非显而易见性特别重要，因为它区分了真正有价值的创新和表面的新奇。
本文的核心发现之一是 LLM 判别器在非显而易见性评估上与人类专家存在系统性分歧。理解这个概念有助于理解为什么人类专家更喜欢作者锚定问题，以及 LLM 判别器的局限性在哪里。
来源受限性
来源受限性是衡量研究问题范围窄化的一个维度，评估研究问题是否过于依赖于特定背景论文的方法、数据集、基准、组件、结果、行为或设置。在本文的评分标准中，来源受限性分为四个等级：0 分代表不是关于来源论文自身贡献的问题，询问更广泛的问题、新机制、新设置或新研究方向；1 分代表受来源论文启发并重用一些概念，但主要问题超越来源论文；2 分代表主要询问来源论文的方法、结果、行为或设置，或其接近变体；3 分代表直接研究、诊断、调整、评估或修改来源论文自身的贡献。这个维度与诊断性框架一起构成了本文的窄化评估框架。
本文的重要发现是模型生成的研究问题在来源受限性上明显窄于作者锚定问题，而 LLM 判别器在默认的新颖性评估中往往忽略了这个维度。理解这个概念有助于理解为什么人类专家认为模型问题缺乏真正的创新，以及如何改进评估框架。
研究动机
现有 LLM-as-Judge 范式在科学创新性评估中存在严重的可靠性问题，但这个问题尚未得到系统研究。随着 LLM 在科学发现中的应用越来越广泛，越来越多的系统开始使用 LLM 来生成科学想法并评估它们的新颖性。例如，Lu 等人（2024）和 Yamada 等人（2025）提出的"AI 科学家"系统能够检索论文、提出想法、设计实验并起草手稿。整个流水线的可靠性取决于 LLM-as-judge 是否可靠。然而，科学创新性与许多标准评估任务不同，它是高层次的、部分主观的，并且对表述方式敏感。即使人类同行评审也可能存在分歧，因此单一的新颖性分数不应被视为绝对真理。但一个有用的判别器应该在不同的评估格式下显示出稳定的趋势，并且不应该与专家人类产生严重分歧。
本文的目标是本文的核心目标是系统性地研究 LLM-as-judge 在评估研究问题科学创新性方面的可靠性。具体而言，作者希望回答五个研究问题：LLM 判别器是否给出稳定的新颖性判断？模型生成的研究问题是否在独立和比较评估下看起来比作者锚定问题更新颖？LLM 判别器与人类专家在对相同研究问题进行比较时是否一致？LLM 生成的研究问题的范围是否足够宽广，还是过于窄化和来源受限？模型是否复制了作者追求的方向，还是主要生成替代方案？通过对这些问题的系统研究，作者希望能够揭示 LLM-as-judge 在科学创新性评估中的局限性和潜在偏差。
与已有工作不同的是，本文的独特切入角度是选择研究问题作为评估对象，而不是完整的研究思路。大多数现有工作评估最终的研究思路，这很困难，因为判断一个完整思路的可行性、方法质量、实验和可能的影响是一个长尾评估问题。研究问题是一个更简单但仍然核心的对象：一个好的研究问题在好的思路之前出现，它在提出方法之前提出应该研究什么。古典研究描述也将问题表述放在最终论证之前（Booth 等人，2008）。通过研究这个上游任务，作者可以更容易地检查 LLM 判别器的行为和潜在偏差。此外，本文构建了 RQ-Bench 基准数据集，提供从真实论文重建的作者锚定研究问题作为参考点，这使得系统性的比较研究成为可能。
核心方法
本文的方法包括两个主要部分：构建 RQ-Bench 基准数据集和系统性的评估框架。数据集构建部分的目标是从已发表的论文中重建作者锚定研究问题，作为参考标准。这涉及一个四步骤的 LLM 辅助流程：从 arXiv 计算机科学论文中筛选高质量论文、识别有影响力的引用文献、提取目标论文的核心思想和贡献、识别研究空缺，最后从这些空缺推导研究问题。评估框架部分设计了三种评估模式：独立的 LLM 评分（每个研究问题单独评分）、比较的 LLM 评分（在同一上下文中评分多个研究问题）和人类专家评估。此外，作者还研究了研究问题的范围和窄化，通过来源受限性和诊断性框架两个维度来评估。
本文的核心创新点是提出了一个以研究问题为中心的科学创新性评估框架，并发现了 LLM 判别器与人类专家在新颖性评估上的系统性分歧。具体而言，作者发现 LLM 判别器在独立评分下给模型生成的研究问题分配很高的新颖性分数，产生了一个"新颖性幻象"；在比较评估中，这种偏好变得更加强烈。然而，领域专家得出了相反的结论，更喜欢作者锚定的参考问题。作者进一步发现，许多生成的研究问题是窄化或来源受限的，这是一个 LLM 判别器经常忽略的维度，除非明确测试。这一发现揭示了当前 LLM-as-judge 流程在科学创新性评估中的根本性不可靠性。
方法步骤详情
数据集构建流程包含四个主要步骤。第一步是论文筛选，从 arXiv 计算机科学领域（cs.AI, cs.CL 等）的约 200,000 篇论文（2025 年 1 月 1 日至 2026 年 10 月 4 日）中，保留每个子领域引用量排名前 10% 且有 LaTeX 源代码的论文。第二步是有影响力引用识别，使用 qwen3.5-27b-thinking 模型，给定被引论文标题、引用频率、出现的章节名称以及每个引用及其局部语境（父句子和前后各三句），模型将每个引用分类为启发、竞争者/基线或无关、微不足道、经典参考。被分类为启发或竞争者的引用被视为有影响力。第三步是思想和贡献提取，使用 gemini-3.1-pro 模型从论文内容中提取关键思想和贡献。第四步是空缺识别，使用 gemini-3-flash 模型，给定预提取的思想和主要贡献以及有影响力引用及其在论文中的局部语境，识别作者识别并解决的空缺。最后是研究问题生成，使用 gemini-3.1-pro 模型，给定空缺和有影响力引用的思想和贡献，获得作者锚定的研究问题。评估框架包括独立评分、比较评分和人类专家评估三种模式。在独立评分中，每个研究问题单独评分，不显示作者锚定参考研究问题或其他生成的研究问题。在比较评分中，作者锚定参考研究问题和五个模型生成的研究问题在同一上下文中评分。评估指标包括三个新颖性维度（原创性、空缺处理、非显而易见性）和两个窄化维度（来源受限性、诊断性框架）。人类专家评估从 cs.CL 和 cs.LG 随机抽样 50 个实例，比较作者锚定参考研究与 gpt-5.5 生成的最佳研究问题。
技术新颖性
本文的技术新颖性体现在多个方面。首先，RQ-Bench 是第一个专注于研究问题生成的基准数据集，它提供了从真实论文重建的 1,434 个作者锚定研究问题，覆盖 13 个 arXiv 计算机科学子领域，与 1,375 个唯一被引论文有 2,464 个 RQ-引用链接和 3,151 个不同的空缺陈述。这使得系统性的研究问题生成和评估研究成为可能。其次，本文提出的评估框架是全面的，包括独立和比较评分、多个新颖性和窄化维度、以及人类专家评估，这使得能够深入分析 LLM 判别器的行为和潜在偏差。第三，本文发现的"新颖性幻象"现象是重要的：LLM 判别器在独立评分下给模型生成的研究问题分配很高的新颖性分数，在比较评估中偏好变得更加强烈，但人类专家得出了相反的结论。最后，本文发现了非显而易见性与来源受限性之间的强相关性：人类专家的非显而易见性判断与 LLM 判别器的来源受限性评估有强对齐（高达 72-76% 的协议率），这揭示了 LLM 判别器将窄化误判为新颖性的根本性偏差。
实验结果
本文的核心发现揭示了 LLM-as-judge 在科学创新性评估中的严重局限性。首先，在独立评分下，LLM 判别器给模型生成的研究问题在所有三个新颖性维度（非显而易见性、原创性、空缺处理）上都分配了很高的最佳五个分数。最强的模型始终是 gpt-5.5，在非显而易见性上达到 1.98 ± 0.25 分（满分 3 分），原创性上达到 2.67 ± 0.48 分，空缺处理上达到 2.98 ± 0.12 分。然而，这些高绝对分数并没有转化为明确的胜利。在双判别器组合评估下，即使 gpt-5.5 也只获得了 27.2% 的非显而易见性明确胜利率和 38.4% 的原创性明确胜利率。这表明独立评估给作者锚定和模型生成的研究问题都分配了高新颖性分数，导致高平局率。其次，在比较评分下，评估动态发生显著变化。LLM 判别器倾向于打破平局，有利于生成输出，放大了模型感知的性能。在双判别器组合设置下，gpt-5.5 在非显而易见性上的明确胜利率从独立评分的 27.2% 跳跃到比较评分的 49.1%，平局率从 59.1% 下降到 36.8%。第三，人类专家与 LLM 判别器存在强烈分歧。在 50 个随机样本的专家研究中，人类评估者强烈偏好作者锚定的 GT 在非显而易见性上，分配给它 78% 和 56% 的胜利率。相比之下，LLM 判别器严重偏好 gpt-5.5 的输出，给它分配 82%（gemini-3.1-pro）和 52%（deepseek-v4-pro）的非显而易见性胜利率。专家注意到许多生成的问题模仿研究空缺的结构，但仍然缺乏原创性和非显而易见性，许多问题窄化且过于受限于背景论文。最后，作者发现模型生成的研究问题在来源受限性上明显窄于作者锚定参考。在双判别器组合评估下，作者锚定参考获得 0.47 ± 0.73 的平均来源受限性分数，明显优于表现最好的模型（gemini-3.1-pro 的 0.90 ± 0.81 和 gpt-5.5 的 1.17 ± 0.78）。因此，模型在这个维度上遭受巨大的失败率；例如，gpt-5.5 的最佳研究问题在 71.7% 的情况下输给参考，只有 4.3% 获胜。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| 独立新颖性评估 | 非显而易见性明确胜利率（双判别器组合） | gpt-5.5: 27.2% | 作者锚定研究问题（参考标准） | 模型表现明显差于人类标准，胜利率远低于 50% |
| 比较新颖性评估 | 非显而易见性明确胜利率（双判别器组合） | gpt-5.5: 49.1% | 作者锚定研究问题（参考标准） | 比较评估放大了模型胜利率，但仍未达到 50% |
| 人类专家评估 | 非显而易见性胜利率 | 专家 1: 78% 偏好 GT, 专家 2: 56% 偏好 GT | gpt-5.5 生成的研究问题 | 人类专家强烈偏好作者锚定问题，与 LLM 判别器判断相反 |
| 来源受限性评估 | 平均来源受限性分数（双判别器组合） | 作者锚定: 0.47 | gpt-5.5: 1.17, gemini-3.1-pro: 0.90 | 作者锚定问题明显更宽广，来源受限性更低 |
| 人类-LLM 对齐 | 非显而易见性胜利率协议 | 专家-专家: 60%, LLM-LLM: 52% | 专家-LLM: 低至 22% | 同类判别器内协议较高，但跨类协议很低，显示系统性分歧 |
| 窄化-非显而易见性关联 | 人类非显而易见性与 LLM 来源受限性协议 | 高达 72-76% | 随机水平约 50% | 强对齐证实人类非显而易见性判断与窄化评估相关 |
局限与改进
作者承认了几个局限性。首先，基准目前限于 arXiv 最近的计算机科学论文，可能不能完全捕捉其他科学领域的研究实践。这意味着本文的发现可能不能直接推广到所有科学领域，尤其是那些研究文化和方法不同的领域。其次，新颖性评估仍然具有挑战性，因为它中心依赖于 LLM-as-judge 用于开放性研究问题生成。虽然作者包括专家评估来研究这个问题，但更广泛和更多样化的人类研究仍然需要。第三，作者锚定研究问题不是背景文献唯一有效的问题，背景可以支持许多好的问题。低作者锚定重叠不应被视为失败本身，它主要显示模型经常生成替代方案而不是论文追求的方向。更大的问题是那些替代方案是否被可靠地判断。最后，本文的研究问题是通过 LLM 辅助流程重建的，可能存在重建误差，尽管验证研究显示 98%（LLM 评估）到 100%（人类评估）的批准率表明重建是可靠的。
独立分析的弱点
独立分析揭示了几个重要的弱点。首先，LLM 判别器存在将窄化误判为新颖性的系统性偏差。模型生成的研究问题在来源受限性上明显窄于作者锚定问题，但 LLM 判别器在默认的新颖性评估中忽略了这一点，反而给这些问题分配了很高的新颖性分数。这个偏差可能导致一个危险的反馈循环：模型生成窄化但表面新颖的问题，判别器错误地高评它们，系统被训练生成更多这样的问题。改进方向是在评估框架中显式包括窄化维度，并开发能够区分表面新颖性和深度创新的判别方法。其次，比较评估模式存在打破平局的偏差。当在同一上下文中评估多个研究问题时，LLM 判别器倾向于打破平局，有利于生成输出，放大了模型感知的性能。这种偏差可能导致过度乐观的性能估计。改进方向是使用更稳健的统计方法来组合多个判别器的判断，或开发能够抵抗上下文偏差的评估框架。第三，LLM 判别器与人类专家在新颖性评估上存在根本性分歧，特别是在非显而易见性维度上。即使修改生成提示以减少来源受限性，人类专家仍然偏好作者锚定问题，而 LLM 判别器继续偏好模型生成问题。这表明当前的 LLM-as-judge 流程可能无法捕捉人类专家对科学创新的深层理解。改进方向是开发更接近人类专家判断的评估方法，或使用混合评估方法结合人类和 LLM 判别器。
未来方向
作者提出了几个未来研究方向。首先，需要更广泛和更多样化的人类研究，以验证和扩展本文的发现。本文的专家研究限于 50 个 cs.CL 和 cs.LG 的样本，未来可以扩展到更多领域和更多样本，以了解不同研究文化下的评估模式。其次，需要开发更稳健的评估框架。作者建议未来的评估应该使用多个判别器，检查协议率，并包括范围或窄化作为第一类维度。这可能包括开发更细粒度的新颖性和窄化度量，或开发能够捕捉人类专家深层创新判断的判别方法。第三，需要研究其他科学领域的适用性。本文专注于计算机科学领域，未来可以扩展到物理、化学、生物、社会科学等其他领域，以了解研究问题生成和创新性评估在不同领域的行为和挑战。最后，需要探索超越 LLM-as-judge 的替代评估方法。这可能包括开发基于奖励模型、检索或混合方法的评估框架，或开发能够评估创新性其他维度（如可行性、影响、可复现性）的综合评估框架。
复现评估
本文在复现性方面提供了良好的透明度。作者计划开源 RQ-Bench 基准数据集，包括 1,434 个研究问题，每个包含 RQ 文本、源论文 arXiv ID、子领域、新颖性类型、问题陈述和主要思想标题及其所述贡献。对于每个 RQ 引用的论文，还额外发布了逐节提取的正文文本。作者还提供了详细的评估协议，包括提示词（在附录中）、评分标准和实验设置。这使得其他研究者可以复现本文的实验和扩展评估。在算力方面，本文使用了多个前沿语言模型（qwen3-30b, deepseek-v4-pro, gemma-4-31b-it, gpt-oss-20b, gpt-5.5, gemini-3.1-pro）作为生成器和判别器，这些模型需要大量的计算资源。然而，作者也评估了一些开放权重模型，这为资源受限的研究者提供了替代方案。在难度方面，复现本文的实验需要访问这些模型和实现评估框架，但由于作者计划开源数据集和协议，难度是可控的。总体而言，本文在复现性方面表现良好，为社区提供了一个有价值的研究基准和评估框架。
论文图表
这个表格分为两部分，左表显示每个 LLM 判别器对 50 个样本的来源受限性原始胜利率，右表显示人类专家决定非显而易见性、LLM 判别器决定来源受限性时每项获胜者的协议（%）。左表显示 GT 仍然比 gemini-3.1-pro 不太来源受限（gemini-3.1-pro 70% GT 胜利，deepseek-v4-pro 62% GT 胜利）。右表显示人类评估的非显而易见性与 LLM 判别器评估的来源受限性之间仍然保持强对齐（42-50%）。这重申了人类专家的非显而易见性判断与窄化评估的强相关性。
这个表格对理解修改提示后人类非显而易见性与窄化评估之间的关系至关重要。它清楚地展示了即使修改提示减少了来源受限性，人类专家的非显而易见性判断与 LLM 判别器的来源受限性评估之间仍然保持强对齐。这个发现证实了作者的假设是稳健的：人类认为更不来源受限的研究问题更具非显而易见性，这不是提示工程可以改变的根本性关系。