MOOSE-Star：通过打破复杂度障碍解锁科学发现的可训练训练 MOOSE-Star: Unlocking Tractable Training for Scientific Discovery by Breaking the Complexity Barrier
通过理论分解和层次搜索，将科学发现的训练复杂度从指数级降低到对数级
前置知识
条件概率分布 P(h|b)
这是科学发现中的核心概率模型，表示给定研究背景b时生成假设h的条件概率。在科学发现的语境下，研究背景b包含具体的研究问题和前期的文献调研，假设h是研究者提出的创新性假设。理解这个概念需要掌握概率论中的条件概率定义，以及在生成模型中如何通过背景信息约束生成过程。在本文中，直接对这个概率进行端到端训练是不可行的，因为需要从庞大的知识库中找到正确的灵感序列。
这是本文要解决的核心问题——如何让这个理论上存在但实际不可训练的概率分布变得可训练。所有的方法创新都是为了绕过直接训练这个分布的组合复杂度障碍。
组合复杂度 O(N^k)
这是算法复杂度分析中的一个概念，描述了随着问题规模增长，计算成本呈指数级增长的模式。在本文的语境中，N≈10^7表示全球科学文献的总规模，k表示生成一个假设需要的灵感数量。组合复杂度意味着需要从N个文献中选择k个特定的灵感，其搜索空间大小是N的k次方。例如，当N=10^7、k=3时，搜索空间约为10^21，这意味着即使每秒检查10亿个组合，也需要数万年才能穷尽。这种复杂度使得直接训练在计算上是完全不可行的。
这是本文要打破的核心障碍。理解这个复杂度的量级对于理解为什么现有方法无法直接训练P(h|b)，以及为什么本文提出的分解方法如此重要。
马尔可夫决策过程（MDP）
这是强化学习中的一个经典框架，用于建模序列决策问题。MDP包含状态空间、动作空间、转移函数和奖励函数，目标是找到最优策略使得累积奖励最大化。本文中的层次MDP是标准MDP的扩展，它将决策过程分解为高层规划（选择动机m）和低层执行（选择灵感i和组成假设h）两个层次。高层策略负责确定研究方向，低层策略负责具体的文献检索和假设生成。
本文使用层次MDP作为理论基础来形式化科学发现过程，并由此推导出概率分解公式。理解MDP有助于理解为什么可以将P(h|b)分解为多个可训练的子任务。
Chain-of-Thought（CoT）推理
这是大语言模型提示技术中的一种方法，要求模型在给出最终答案之前先生成一个推理过程。例如，在解决数学问题时，模型会先写出解题步骤，再给出答案。在本文中，CoT被用于训练灵感检索和假设组成两个子任务，要求模型先生成推理轨迹，再输出最终的灵感选择或假设内容。这种技术被证明可以提高模型的推理能力和答案质量。
本文将两个子任务都设计为生成式推理任务，并使用CoT作为训练方法。理解CoT有助于理解为什么本文采用Rejection Sampling Fine-Tuning（RFT）作为训练策略。
Rejection Sampling Fine-Tuning（RFT）
这是一种模型微调技术，通过从教师模型生成的多个样本中选择高质量样本来训练学生模型。具体过程是：教师模型生成多个候选答案，通过人工设计的评估标准或另一个模型来判断每个答案的质量，只保留那些质量达到阈值的样本用于训练。这种方法可以提高学生模型的输出质量，因为它只在高质量样本上进行训练。本文使用RFT来训练灵感检索和假设组成两个子任务，确保训练数据的质量。
这是本文采用的训练方法，用于从教师模型（R1-DISTILLED-QWEN-32B）生成的候选中选择高质量的假设样本。理解RFT有助于理解为什么本文能够在相对较小的数据集上训练出高性能的模型。
研究动机
现有的大语言模型科学发现研究主要集中在推理阶段或基于反馈的训练，而非直接建模核心的条件概率分布P(h|b)。具体来说，Weng等人（2024）和Li等人（2024）利用开放获取的评审数据训练批判模型，Behzadifar等人（2025）使用与观察数据对齐作为奖励，Goel等人（2025）从基于特定规则的LLM反馈中推导奖励。这些方法都依赖于外部反馈来精炼生成的假设，而忽略了直接从研究背景生成高质量假设所需的基本推理过程。更根本的问题是，直接训练P(h|b)在数学上是不可行的，因为需要从规模约为N≈10^7的全球科学文献空间中检索和组合k个潜在灵感，这导致了一个O(N^k)的组合搜索空间。例如，当k=3时，搜索空间约为10^21，这使得端到端训练在计算上完全不可能。
本文的目标是本文的核心目标是让P(h|b)的训练变得可行且可扩展。具体来说，作者希望：（1）建立理论分析说明为什么直接训练P(h|b)是不可行的；（2）提供一个配方来克服这个复杂度障碍，使P(h|b)的训练变得可行；（3）提供一个支持更可扩展测试时推理的配方；（4）构建一个大规模数据集和完整的训练及推理代码库。通过这些目标，作者希望开启一个新的研究方向，让LLM能够直接学习如何从研究背景生成科学假设，而不是仅仅依赖外部反馈。
与已有工作不同的是，本文的独特切入角度在于，它首次对为什么训练P(h|b)是不可行的进行了严格的理论分析，并提供了第一个可行的训练配方。与现有工作不同，本文不依赖于外部反馈机制（如评审、实验数据或规则），而是直接操作P(h|b)本身。本文建立在前人工作的基础上，特别是Yang等人（2025b）提出的概率分解理论，但本文的创新在于将这个之前仅用于推理的理论公式操作化为可训练的目标函数。此外，本文还引入了层次搜索、有界组合和动机规划等创新，进一步优化了复杂度，使得在最佳情况下复杂度可以从指数级O(N^k)降低到对数级O(log N)。
核心方法
MOOSE-Star框架通过一系列理论分解将不可行的目标转换为可解的问题。其整体思路是：首先，将科学发现过程形式化为从研究背景b和一系列潜在灵感i生成假设h的组合过程；然后，使用概率分解理论将P(h|b)分解为k个顺序步骤，每个步骤包含三个子步骤：动机规划（选择研究方向m）、灵感检索（从知识库中检索相关灵感i）和假设组成（将检索到的灵感整合到假设中）。通过这种分解，原本O(N^k)的指数复杂度被转换为O(k×N)的线性复杂度。为了进一步优化，作者引入了层次搜索，将线性扫描O(N)转换为对数时间O(log N)；引入有界组合，通过容忍检索中的语义噪声来降低检索成本；引入动机规划，通过显式建模研究意图来缩小搜索空间。最终，在最佳情况下，整体复杂度从O(N^k)降低到O(log N)。
MOOSE-Star的核心创新点在于将原本不可直接训练的P(h|b)通过理论分解转换为多个可训练的子任务。与已有方法依赖外部反馈不同，本文直接操作P(h|b)本身，通过将其分解为动机规划、灵感检索和假设组成三个子任务，每个子任务都可以独立训练。此外，本文还引入了三个重要的技术创新：层次搜索通过构建语义搜索树来替代线性扫描，将检索复杂度从O(N)降低到O(log N)；有界组合通过训练模型在语义邻域内进行推理，使得模型能够容忍检索中的噪声；动机规划通过显式建模研究意图，将搜索空间从全局知识库缩小到动机对齐的子空间。这些创新使得原本不可行的训练目标变得可行且可扩展。
方法步骤详情
MOOSE-Star的训练包含以下完整步骤：（1）数据构建阶段：收集108,717篇开放获取的科学论文，使用MinerU将PDF转换为Markdown格式，然后使用DeepSeek-R1和R1-distilled-Qwen-32b将每篇论文分解为研究背景b、假设h和灵感i三个组件。假设h被结构化为一系列'增量假设'（∆h），每个∆h包含动机、机制和方法论三个层面。通过四个质量检查（信息必要性、充分性、独立性和非冗余性）确保数据质量。（2）分解序列训练：训练模型在两个等价的顺序子任务上：灵感检索（IR）和假设组成（HC）。对于IR任务，模型需要从15篇论文（1个正样本和14个负样本）中识别出正确的地面真值灵感；对于HC任务，模型需要基于检索到的灵感生成假设更新∆hj。两个任务都使用教师模型的RFT进行训练，要求模型生成CoT推理轨迹。（3）有界组合：为每个地面真值灵感i∗检索最多50个语义相似的论文，使用SPECTER2计算相似度，将候选分为三个难度层：简单([0.94, 0.97))、中等([0.92, 0.94))和困难([0.90, 0.92))。从每个层中选择相似度最高的候选作为代表，使用教师模型基于这些代理灵感生成假设，通过与质量控制标准的对比来评估质量。对于多个层都通过的样本，优先选择最难层的样本。（4）层次搜索：离线阶段，使用自底向上的递归聚类构建搜索树，强制最大分支因子为c=15，并通过后聚类平衡操作确保树的平衡。在线推理时，使用最佳优先搜索策略，维护一个按路径置信度排序的候选节点优先队列。（5）动机规划：在检索前生成动机m作为方向指导，通过将m附加到查询背景b上，显式地将层次搜索条件化为特定的预期属性。
技术新颖性
MOOSE-Star的技术新颖性体现在多个方面：首先，这是首次对为什么训练P(h|b)是不可行的进行严格理论分析的工作，作者证明了直接训练P(h|b)的复杂度为O(N^k)，这在计算上是不可行的。其次，这是第一个提供如何让P(h|b)训练变得可行且可扩展的配方的工作，作者将原本不可行的目标通过理论分解转换为多个可训练的子任务。第三，层次搜索的设计借鉴了MOOSE-Chem2的思想，但本文将其应用到灵感检索空间，而不是假设空间，这是一个重要的迁移。第四，有界组合的概念是本文原创的，它通过训练模型在语义邻域内进行推理，使得模型能够容忍检索中的噪声，这是对传统'精确匹配'约束的重要放松。第五，动机规划作为层次MDP的一部分，引入了显式的规划步骤，这在之前的科学发现工作中没有被探索过。最后，本文构建的TOMATO-Star数据集（108,717篇处理过的论文，消耗38,400 GPU小时）是迄今为止最大的科学发现训练数据集之一，为后续研究提供了重要资源。
实验结果
论文的核心发现可以从多个实验分析中总结。首先，分解序列训练显著提升了模型性能：MS-IR-7B在灵感检索任务上的准确率从28.42%提升到54.37%，接近前沿模型GPT-5.4（51.50%）和Gemini-3-Pro（54.89%）；MS-HC-7B在假设组成任务上的M3总分从4.05提升到4.68。其次，有界组合训练增强了模型对检索噪声的鲁棒性：在Easy/Medium/Hard三个难度层上，MS-7B的M3总分分别为3.37/2.86/2.78，显著优于基线模型。第三，层次搜索显著提高了检索效率：在3,035个地面真值灵感上进行评估，层次搜索平均需要67.78次IR推理调用，而锦标赛基线需要218.00次调用，减少了约3倍；同时，层次搜索的平均排名（742.50）也优于锦标赛基线（813.40）。第四，动机规划进一步提升了搜索效率：引入详细动机后，IR推理调用从67.78减少到63.05，平均排名从742.50提高到813.40。第五，scaling law分析显示，IR模型展现了标准的对数线性改进，而HC模型在数据集大小超过10^3后才展现出显著的对数线性增益。第六，测试时扩展分析表明，MOOSE-Star能够在约6,000次调用的预算下完成所有109个测试论文，而暴力采样在约9,500次样本后饱和于38.5%。特别是在k=3的任务上，暴力采样方法仅获得0%的严格胜率，而MOOSE-Star展现出持续的改进。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| 灵感检索 | 准确率 | 54.37% | 28.42% (R1-DISTILLED-QWEN-7B) | +25.95个百分点 |
| 假设组成（地面真值灵感） | M3总分 | 5.02 (MS-7B) | 4.05 (R1-DISTILLED-QWEN-7B) | +0.97 |
| 层次搜索效率 | IR推理调用次数 | 67.78 | 218.00 (锦标赛搜索) | -69% |
| 测试时扩展（109篇论文） | 完成率 | 100% @ 5979调用 | 38.5% @ 9500样本 (暴力采样) | +61.5个百分点 |
| 时间外泛化（200个测试样本） | 检索成功@Rank≤50 | 28.0% | 无直接基线 | 首个时间外评估结果 |
局限与改进
论文的局限性可以从作者承认的和独立观察的两个方面分析。作者承认的局限性包括：本文专注于通过分解使假设提出分布P(h|b)变得可训练，但没有研究反馈驱动的假设精炼或实验引导的假设排序，这些在MOOSE-Chem3等互补工作中被探索。本文的实验评估了模型是否能够在时间保持的文献案例中恢复发现相关的灵感并重构相应的假设，但新提出假设的前瞻性实验验证需要特定领域的验证活动，这不在本研究范围内。独立观察的局限性包括：本文的理论分析依赖于两个关键假设——唯一性假设（每个有效假设对应唯一的最小动机-灵感集合）和固定顺序假设（集合的集成遵循规范的构建序列）。在实际情况中，假设的组件可能以多种有效的顺序组装，放松固定顺序假设需要对k!种排列进行边缘化，这增加了复杂度。此外，本文的评估主要基于文献重构，这虽然能够验证模型的学习能力，但不能完全代表实际科学发现中的新颖性。最后，本文的模型规模相对较小（7B参数），与前沿模型（如GPT-5.4）相比仍有差距，特别是在假设组成任务上，MS-HC-7B的M3总分（5.02）显著低于GPT-5.4（7.82）。
独立分析的弱点
MOOSE-Star的弱点可以从以下几个具体场景分析：首先，检索是主要瓶颈。在时间外评估的200个测试样本中，只有28.0%的样本将地面真值灵感排在前50名，这意味着约72%的测试案例无法检索到正确的灵感。一个改进方向是改进层次搜索的树构建策略，例如使用更先进的语义表示或动态调整分支因子。其次，假设组成质量与前沿模型仍有差距。当使用MS-HC-7B作为HC后端时，在Rank≤50、M3≥7的情况下，成功率仅为4.0%，而使用GPT-5.4时成功率达到20.5%。一个改进方向是使用更强的基础模型或增加HC任务的训练数据。第三，时间外泛化能力有限。虽然本文使用了严格的时间分割（2025年10月作为测试集），但检索成功率仍然较低，这表明模型在真正的全新科学发现上的能力可能有限。一个改进方向是引入跨领域迁移学习或元学习，提高模型在未知领域上的泛化能力。第四，计算成本仍然较高。虽然层次搜索将检索复杂度从线性降低到对数，但对于需要多次灵感检索的复杂假设，总体成本仍然可观。一个改进方向是引入缓存机制或并行检索，降低重复检索的开销。最后，评估方法存在局限性。本文主要使用基于文献重构的评估，这虽然能够验证模型的学习能力，但不能完全代表实际科学发现中的新颖性和可行性。一个改进方向是引入领域专家评估或实际实验验证，提高评估的真实性和可靠性。
未来方向
未来的研究方向可以从作者提出的和基于成果可延伸的两个方面分析。作者提出的未来研究方向包括：与反馈驱动的方法结合，例如将MOOSE-Star生成的假设作为输入，使用MOOSE-Chem3中的实验引导排序或来自实验测量、可执行评估或奖励分数的外部反馈来评分或比较候选，然后指导选择或迭代精炼。基于成果可延伸的未来研究方向包括：扩展到更多科学领域，本文的数据集主要集中在生物学、化学、医学、医学影像、心理学和认知科学，未来可以扩展到物理学、数学、计算机科学等领域；探索更复杂的假设结构，本文将假设结构化为一系列增量假设，每个增量包含动机、机制和方法论，未来可以探索更复杂的结构，如假设之间的依赖关系或假设的层次结构；提高模型规模和性能，本文使用7B模型作为基础，未来可以尝试使用更大的模型（如32B或70B）来提高性能；探索自动化的动机生成，本文使用两种动机生成策略（简单和详细），未来可以探索如何自动生成高质量的研究动机；结合人类专家的反馈，本文主要使用自动化的评估方法，未来可以引入人类专家的反馈来改进模型训练和评估。
复现评估
MOOSE-Star的复现评估可以从开源情况、数据、算力和难度四个方面分析。开源情况：论文提供了GitHub仓库（https://github.com/ZonglinY/MOOSE-Star）和HuggingFace集合（https://huggingface.co/collections/ZonglinY/MOOSE-Star），这表明作者承诺开源代码和模型。数据：论文发布了TOMATO-Star数据集，包含108,717篇处理过的论文，这些论文来自NCBI数据库，涵盖生物学、化学、医学、医学影像、心理学和认知科学等领域，时间跨度从2020年1月到2025年10月。数据集的构建消耗了约38,400 A800 GPU小时，这是一个相当大的计算投入。算力：论文使用的模型基于R1-DISTILLED-QWEN-7B，这是一个相对较小的模型，训练时的硬件要求相对较低。然而，数据集构建和层次搜索树的构建需要大量的计算资源，这可能对复现提出挑战。难度：复现的主要难点可能在于数据集构建和评估流程的复杂性。论文使用了多个复杂的工具和流程，包括MinerU用于PDF转换、DeepSeek-R1和R1-distilled-Qwen-32b用于论文分解、SPECTER2用于语义嵌入、层次K-means聚类用于树构建等。这些工具和流程的集成可能需要相当的技术经验。此外，评估流程使用了GPT-4o和Gemini-3-Flash作为判断模型，这可能需要访问这些模型的API，这可能带来成本和可用性的问题。总体来说，虽然论文提供了代码和数据，但完全复现可能需要相当的技术经验和计算资源。
论文图表
