← 返回 2026-03-04

SciDER:数据中心化的端到端科研多智能体系统 SciDER: Scientific Data-centric End-to-end Researcher

Ke Lin, Yilin Lu, Shreyas Bhat, Xuehang Guo, Junier Oliva, Qingyun Wang 📅 2026-03-02 👍 6 2026-07-13 08:35
LLM Agent 代码生成 多智能体系统 数据中心化AI 自动化科研发现

面向科研全流程的数据中心化多智能体框架,在六项基准上取得 SOTA 并开源 27B 模型

前置知识

LLM 多智能体系统(LLM-based Multi-Agent)

由多个基于大语言模型构建的子智能体分工协作来完成复杂任务的系统。每个子智能体通常有明确的角色(如研究员、程序员、评审员),通过消息传递或共享上下文相互调用。代表性工作如 AutoGPT、AgentVerse 等。

SciDER 本身就是一个由四个子智能体(Ideation / Data Analysis / Experiment / Critic)组成的协同系统,理解多智能体通信范式是看懂其架构的前提。

演化搜索(Evolutionary Search)与进化算子

借鉴遗传算法的思路,把候选解视为"种群",通过选择、变异(mutation)和交叉(crossover)等算子迭代生成更优解。在 LLM 场景中,"变异"通常指让 LLM 按维度重写某个候选,"交叉"指融合两个父代候选的要素。

SciDER 提出的 Evolutionary Idea Search(EIS)是论文核心创新之一,它用 K-way batch ranking 评估、用维度定向变异与排序加权交叉生成新想法,决定了 Ideation 阶段的整体表现。

LLM-as-a-Judge 与 K-way 排序校准

用大模型作为评分员评估其他模型输出。绝对分数存在 run-to-run 的标定漂移,因此常用 K-way permutation(让 LLM 给 K 个候选排序)来缓解噪声,把绝对打分转成相对排序,再换算成归一化分。

EIS 的核心设计就是 K-way batch ranking——它把每个维度上的排名归一化为 $\text{scored}(x) = (n+1-\text{rank}_d(x))/n$,再用权重 $w = (0.30, 0.25, 0.25, 0.20)$ 聚合,这是它能稳定驱动演化的关键。

工具/技能增强的 LLM 智能体(Skill-Augmented Agent)

把可调用的能力抽象为"技能(skill)",每个技能包含名字、描述、参数约束和函数体。智能体在系统提示中按角色加载短描述(descriptor)以控制上下文开销,仅在被关键词命中或显式调用时才物化(materialize)完整函数体。

SciDER 的 Multimodal Skill System 用 $\text{Tok}_t(a) = \sum_{s\in S_a}|\text{desc}(s)| + \sum_{s\in K_t}|B_s|$ 这种"目录线性 + 物化按需"的拆分来控制 token 预算,是其能跨域扩展的关键工程设计。

迭代式代码生成与执行反馈循环

智能体先生成代码 $C_k$,用静态守卫 $g(C_k)\in\{0,1\}$(语法、类型、lint)校验;失败则让 LLM 反思错误日志生成下一轮补丁 $\Delta_{k+1}$。运行时还会采样 $\eta_t = (\ell_t, \text{loss}_t, \text{prog}_t)$ 这类 runtime signal 反哺编码阶段。

SciDER 的 Experimentation Agent 把 Coding($\Delta_k$ 修补循环)与 Execution(runtime signal $\eta_t$ 回流)拆成两阶段,这种结构是它能跨物理、生物等多领域生成可执行代码的基础。

研究动机

现有基于 LLM 的科研自动化智能体面临三个根本性瓶颈:第一是适应性差,多数系统(如 AI Scientist 系列、AI Researcher、InternAgent 等)主要针对公开 ML 基准设计,无法独立分析真实科研中形态各异的实验数据;第二是领域泛化能力弱,通用编码助手在物理、生物、遥感等需要把抽象概念翻译成精确且常常私有的实验数据格式时表现糟糕;第三是多模态可扩展性不足,已有工作普遍是单模态工作流,难以扩展到需要长尾 API、复杂可视化的跨学科任务。表 I 清楚地展示了 AI Scientist、InternAgent、TinyScientist 等 8 个代表性系统在"数据-想法-实验-论文"四阶段中至多覆盖三个,且均缺乏 Vision / Skill / Package / Dataset / Model 五项开放性能力。这些问题的根源被作者归结为"自顶向下、解耦"的设计:传统智能体先生成抽象假设再去找数据验证,而真实科研是一个高度迭代、数据驱动的过程,研究者需要持续处理多模态输入、识别结构异常并据此修正实验设计。

本文的目标是本文提出 SciDER 的核心目标是构建一个真正端到端的科研自动化系统,把抽象的科学推理和可复现的实验代码生成桥接起来。具体可量化的目标包括:在 6 个不同维度的基准(AI-Idea-Bench、DiscoveryBench、MLE-Bench Lite、SciCode、AIRS-Bench、AstroVisBench)上同时取得有竞争力或领先的结果;提供一个模块化的 Python 包,让研究者可以上传数据和主题后启动"想法-数据分析-实验-评审"闭环;同时通过发布 8K 条执行轨迹数据 OpenSciDER-SFT-8K 和 27B 开源模型 OpenSciDER-27B,让开源模型也能承担原本依赖闭源 API 的复杂科研工作流,把科学家从繁杂的数据清洗和工程实现中解放出来。

与已有工作不同的是,现有工作几乎一致地把"数据分析"当成实验阶段的预处理步骤而非一等公民,而 SciDER 的独特切入角度是把"数据中心化(data-centric)"升格为系统级的第一性原则——在想法生成和代码生成之前,先让一个专门的 Data Analysis Agent 把原始数据集解析成四元组报告 $R = (R_{\text{str}}, R_{\text{qual}}, R_{\text{sem}}, R_{\text{dep}})$,包含结构、质量、语义、依赖四个视图。这种"自下而上、用数据驱动假设与代码"的设计,配合 K-way 批量排序的 Evolutionary Idea Search 和具备 (verdict, confidence, 修订补丁) 三元组输出的 Critic Agent,使 SciDER 成为第一个在功能矩阵上把 Ideation / Data / Experiment / Paper 与 Vision / Skill / Modular / Web UI / Package / Dataset / Model 全部勾选的全栈科研智能体。

核心方法

SciDER 把科研自动化建模为"给定数据集 $D$ 和研究问题 $Q$,依次生成想法 $I$、分析报告 $R$、代码库 $C$ 和实验结果 $T$"的四阶段流水线,由四个角色互补的多模态智能体协同完成。直觉上可以把它想象成一支虚拟实验室团队:一位资深研究员(Ideation Agent)负责检索文献并产出新颖可执行的研究方向;一位数据工程师(Data Analysis Agent)负责把原始实验数据"翻译"成结构化的元信息;一位程序员(Experimentation Agent)负责按数据和想法写出可运行代码并跑出结果;一位审稿人(Critic Agent)则对每阶段产物做 (PASS/REVISE, confidence, 修订建议) 的多维度评审。整个系统以 Multimodal Skill System 作为"插件基础设施":技能被建模为 $s = \langle \text{name}, \text{desc}, A_s, P_s, B_s \rangle$,按角色预加载短描述、按需物化函数体,从而以线性目录开销支持任意规模的技能库扩展。

SciDER 相对已有工作的本质区别在于把"数据分析"从附属步骤提升为一等公民,并通过 EIS 和 Critic 两项机制把"数据如何反哺假设与代码"这件事工程化。Evolutionary Idea Search 不再用绝对分数选想法——绝对 LLM-judge 噪声大、不可校准——而是用 K-way 批量排序把每个候选在四个维度(novelty、feasibility、impact、specificity,权重 $w = (0.30, 0.25, 0.25, 0.20)$)上同时排序,再以 $\text{scored}(x) = (n+1-\text{rank}_d(x))/n$ 归一化并加权合成复合分 $\sigma(x) = \sum_d w_d \cdot \text{scored}_d(x)$;随后用"保留 top-k + 钉住最优种子 + 维度定向变异 + 排序加权交叉"的进化算子迭代,直到 LLM 调用预算耗尽(默认 $n=8, k=4, T=3, B=60$)。Critic Agent 同样把评审输出形式化为 $F_n = \text{Critic}(x_n) = (v_n, \{(d, \sigma_n^d, \delta_n^d)\}_{d\in D_{\text{crit}}})$,其中 $v_n\in\{\text{PASS}, \text{REVISE}\}$ 是门控判决、$\sigma_n^d$ 是 per-axis 置信度、$\delta_n^d$ 是自然语言修订补丁,使下游智能体能就地修订而无需重跑未受影响阶段。这是把"top-down 假设 → 实验"范式反转为"bottom-up 数据 → 假设 → 实验 → 评审"的关键工程创新。

方法步骤详情

完整流水线分四个阶段执行。① Ideation 阶段 $I \leftarrow \text{Idea}(D, Q)$:先调用文献检索(arXiv、Semantic Scholar、PubMed)生成 $n=8$ 个种子想法,再用 EIS 算法演化 $T=3$ 代,每代在四个维度上并行 K-way 排序、做 $n_{\text{imp}}=3$ 次维度定向变异和 $n_{\text{com}}=1$ 次交叉,返回评分最高的 $\arg\max_{x\in P} \sigma(x)$。② Data Analysis 阶段 $R \leftarrow \text{Data}(D, Q, I)$:把输入建模为带标签的文件树 $T_D = (V, E, \tau)$,按深度优先访问每个 leaf,用格式特定的探测函数 $\phi_\tau(v): \text{bytes}(v) \to \text{Schema}(v) \times \text{Stats}(v)$ 产出带类型的 schema 和统计指纹,再分别汇总为四个子报告:Structure(格式/dtype)、Quality(缺失率 $\mu_f$、稳健 z-score 离群、约束违反)、Semantics(把字段映射到 query-conditioned 角色 $\psi(f|Q,I)\in\{\text{target}, \text{time-index}, \text{covariate}, \text{identifier}, \ldots\}$,让下游代码按角色寻址而非按列名)、Dependency(基于主键匹配、时间戳共享、值集重叠抽取的字段依赖图 $G_{\text{dep}} = (F, E_{\text{dep}})$)。③ Experimentation 阶段 $(C, T) \leftarrow \text{Exp}(D, Q, I, R)$:分两步,$C \leftarrow \text{Coding}(D, Q, I, R)$ 用迭代 patch 循环 $C_{k+1} = C_k \oplus \Delta_{k+1}$,由静态守卫 $g(C_k)\in\{0,1\}$ 控制(语法、类型、lint),$K_{\max}$ 用完即提交;$T \leftarrow \text{Exec}(D', C)$ 在隔离工作区 $W = (C, D, L)$ 中执行,周期采样运行时信号 $\eta_t = (\ell_t, \text{loss}_t, \text{prog}_t)$,其中 $\text{prog}_t\in[0,1]$ 是粗粒度进度估计,触发停止谓词时输出结构化失败 $\perp$ 回流给 Coding 阶段。④ Critic 阶段 $F \leftarrow \text{Critic}(\cdot)$:在分析、实验每个阶段后调用,从准确性(消除错误与幻觉)、完整性(弥补信息缺口)、中立性(过滤偏见)三轴评审,门控判决 $v_n$ 由一个 Approval 子智能体对照工作区状态 $D_{\text{ws}}$ 复核以缓解 LLM-as-a-judge 的不稳定性;通过后由四智能体并行生成下一轮 $(I_{n+1}, R_{n+1}, C_{n+1}, T_{n+1})$,当 $v_n=\text{PASS}$ 或单智能体重试预算(默认 $N_{\max}=2$)耗尽则终止。

技术新颖性

技术新颖性体现在三方面。第一,把"数据中心化"从口号落地为四元组报告 $(R_{\text{str}}, R_{\text{qual}}, R_{\text{sem}}, R_{\text{dep}})$,其中 Role-aware 字段映射 $\psi(f|Q,I)$ 让代码生成不再依赖脆弱的列名匹配,这是 AI Scientist、InternAgent 等都没有的设计。第二,把"想法搜索"建模为有明确算子的演化问题:用 K-way permutation 替代绝对打分、用钉住最优种子 + 维度定向变异 + 排序加权交叉替代简单的 prompt refinement,把候选质量稳定提升了 Novelty +23.8%、Feasibility +8.8%(图 4a)。第三,Critic 输出从二元判决扩展为 $(v_n, \sigma_n^d, \delta_n^d)$ 的三元组,使局部修订成为可能,并通过 Approval Layer 缓解 LLM-judge 不稳定——这与单纯 self-refine 或 self-consistency 路线有本质区别。

SciDER 系统架构图
Fig. 1: SciDER 系统架构图

实验结果

论文在 6 个基准上系统验证了 SciDER 的有效性。最核心的几个数字是:在 AIRS-Bench 端到端科研评估上,SciDER(Claude-Sonnet-4 后端)取得 0.780 分,比此前的 SOTA AIRA(GPT-5)的 0.550 高出 0.23 个绝对点、相当于 41.8% 的相对提升;即使是 27B 开源变体 OpenSciDER-27B 也达到 0.519,超过了用 o3 的 AIRA(0.424)和 GPT-OSS-120B 的 ReAct(0.402)。在数据驱动发现基准 DiscoveryBench 上,SciDER(Claude-Sonnet-4)以 35.4% 的准确率达到 SOTA,比最强基线 Asta-v0(33.2%)高 2.2 个百分点,而 OpenSciDER-27B 也拿到了 31.5%,把相对小模型与 DataVoyager(25.7%)的差距拉开到 22.5%。在 ML 工程基准 MLE-Bench Lite 上,SciDER(Gemini-3-Pro)以 63.64% 的 "%Any Medal" 和 40.90% 的 "%Gold" 超过 AIRA(Gemini-3-Pro)的 56.89% / 37.16%,且开源 27B 模型也以 54.54% 的总体奖牌率超过 ML-Master(48.50%)和 AIDE(16.90%)。在 AI-Idea-Bench 想法生成评估中,OpenSciDER 在 Motivation Novelty 上以 63.22 分超过 InternAgent-1.5 的 55.96(+12.98%)、在 Feasibility 上以 36.2 vs 30.9 提升 17.15%。在 SciCode 多步科学编程基准上,OpenSciDER 在子题上以 38.07% 的解题率超过 AIRA 的 35.78%。在 AstroVisBench 多模态天文可视化上,OpenSciDER 甚至超过闭源版 SciDER(Claude-Sonnet-4.5),以更高的 Correct 率和明显更低的 Major Error 率显著优于基础 multimodal ReAct。此外消融研究(图 4)证明 EIS 让 Novelty 从 45.79 跃升至 56.67(+23.8%)、Feasibility 从 24.00 提升至 26.10;Data Analysis 模块在 DiscoveryBench 的 ML Req. Eng. 子任务上让分数从 0.348 升至 0.586(+68.4%)。最后,13 位领域专家的问卷反馈给出 4.846/5.000 的均分(标准差 0.376),定性验证 SciDER 已被实际科研人员视为"接近 Excellent"的自主协作者。

现有科研智能体框架功能对比
Table I: 现有科研智能体框架功能对比
OpenSciDER-SFT-8K 轨迹统计(按智能体角色)
Table II: OpenSciDER-SFT-8K 轨迹统计(按智能体角色)
AI-Idea-Bench 想法生成结果
Table III: AI-Idea-Bench 想法生成结果
DiscoveryBench 数据驱动科学发现结果
Table IV: DiscoveryBench 数据驱动科学发现结果
MLE-Bench Lite 实验结果
Table V: MLE-Bench Lite 实验结果
AIRS-Bench 端到端科研结果
Table VI: AIRS-Bench 端到端科研结果
SciCode 主题/子题解题率
Fig. 2: SciCode 主题/子题解题率
查看结构化数据
任务指标本文基线提升
端到端科研生命周期 (AIRS-Bench) 整体评分 (Score) SciDER (Claude-Sonnet-4) = 0.780;OpenSciDER-27B = 0.519 AIRA (GPT-5) = 0.550;ReAct (GPT-OSS-120B) = 0.402 绝对 +0.23,相对 +41.8%;开源 27B 仍比 AIRA (o3, 0.424) 高 +0.095
数据驱动科学发现 (DiscoveryBench) 准确率 (Accuracy) SciDER (Claude-Sonnet-4) = 0.354;OpenSciDER-27B = 0.315 Asta-v0 = 0.332;DataVoyager = 0.257 绝对 +0.022(对 Asta-v0);对 DataVoyager 相对 +22.5%
ML 工程 (MLE-Bench Lite) %Any Medal / %Gold SciDER (Gemini-3-Pro) = 63.64% / 40.90%;OpenSciDER-27B = 54.54% / 31.82% AIRA (Gemini-3-Pro) = 56.89% / 37.16%;ML-Master = 48.50% / 18.10%;AIDE = 16.90% / 9.40% 对 AIRA 绝对 +6.75% / +3.74%;OpenSciDER 超过 ML-Master +6.04%
多步科学编程 (SciCode) 子题/主题解题率 (Sub/Main Solve Rate) SciDER (Gemini-3-Flash) Sub = 47.22% Main = 16.46%;OpenSciDER-27B Sub = 38.07% Main = 13.77% AIRA (Gemini-3-Flash) Sub = 35.78% Main = 11.56%;daVinci (GLM-4.6) Main = 15.40% Sub = 9.23% Sub 题相对 +31.97% vs AIRA;Main 题超过 daVinci +1.06%
想法生成 (AI-Idea-Bench) Novelty / Feasibility / Quality (Motiv+Exp) OpenSciDER Motiv Novelty = 63.22;Exp Novelty = 56.11;Feas = 36.2 InternAgent-1.5 Motiv Novelty = 55.96;Exp Novelty = 52.73;Feas = 30.9;AI-Scientist-v2 = 44.77 / 42.31 / 22.5 Motiv Novelty +12.98%;Exp Novelty +6.41%;Feasibility +17.15%
天文可视化 (AstroVisBench) Correct / Minor Err / Major Err 占比 OpenSciDER-27B = 38.6% / 37.5% / 23.2% SciDER (Claude-Sonnet-4.5) = 27.3% / 40.1% / 31.6%;Claude-Opus-4 = 22.6% / 36.7% / 35.6%;GPT-4o = 12.8% / 34.7% / 42.3% Correct 率比 Sonnet-4.5 版 SciDER 高 +11.3 个百分点;Major Error 低 -8.4

局限与改进

作者承认的局限包括:① 系统需要相对大的 token 预算(OpenSciDER-SFT-8K 单轨迹平均 85.6k token,总计 730.5M tokens)来支持多智能体协作,单条研究任务的开销显著高于单智能体基线;② 闭源后端(Gemini-3-Pro / Claude-Sonnet-4)仍是取得 SOTA 的关键,开源 27B 模型虽然跨过了实用门槛但在 DiscoveryBench 上仍落后闭源版约 4 个百分点;③ Critic Agent 的 Approval Layer 引入了一个"二次 LLM 调用",单次研究循环的延迟和费用上升,且仍未完全消除 LLM-as-a-judge 的不稳定性风险;④ 系统对原始数据格式的依赖较强——依赖 $\phi_\tau(v)$ 探测函数覆盖 Σ = {Parquet, CSV, TIFF, …},遇到未注册格式时整个数据流会降级。读者观察到的隐含问题还包括:图 3 中 OpenSciDER 反而比 SciDER 闭源版表现更好,这种现象暗示闭源多模态前端在长尾天文 API 场景下可能不如专门微调的开源模型,但作者未深入分析原因;AstroVisBench 的 864 个任务只测试单次运行,未给出多次种子下的方差,对结论的稳健性需要审慎对待。

独立分析的弱点

独立分析主要有三处可改进的弱点。① K-way batch ranking 的 $\sigma(x) = \sum_d w_d \cdot \text{scored}_d(x)$ 权重 $w = (0.30, 0.25, 0.25, 0.20)$ 是手工指定的固定先验,跨学科迁移时(如物理 vs 生物)同一组权重未必最优,可以引入领域自适应权重或贝叶斯优化对 $w$ 做元学习。② Experiment Agent 的 Coding 与 Execution 两阶段用 $K_{\max}$ 和 runtime signal $\eta_t$ 解耦,但 $\text{prog}_t\in[0,1]$ 只是一个粗粒度估计,对长任务(>1h)的可观测性差;改进方向是引入基于 AST 的执行追踪或子任务分解,让 $\eta_t$ 携带更细粒度的子目标完成度。③ Multimodal Skill System 虽然通过 $\text{Tok}_t(a) = \sum_{s\in S_a}|\text{desc}(s)| + \sum_{s\in K_t}|B_s|$ 实现了"目录线性 + 按需物化",但关键词触发逻辑对表述变体很敏感,当用户用同义词指代某个能力时容易失效;可考虑在技能注册时同时索引 LLM 嵌入的语义签名,由 LLM-router 而非关键词匹配来选择 $K_t$。此外,作者用 13 位专家问卷(4.846/5.000)证明有用,但样本量小且选择偏差(愿意填写问卷的更可能倾向积极评价),建议在更大规模、跨机构的盲评中复测。

未来方向

作者提出的方向包括继续扩展 Multimodal Skill System 到更多领域(数学、化学、材料的专用 skill)以及把 SciDER 接入更多闭源模型接口做对比。基于论文成果可延伸的方向有三个:① 把 EIS 的 K-way 排序思路扩展到多目标 Pareto 优化,自动权衡 novelty / feasibility / impact / specificity 而非手工设权;② 用 Critic Agent 输出的修订补丁 $\delta_n^d$ 作为"自动 prompt curriculum",迭代生成更具多样性的训练数据,反哺 OpenSciDER-27B 这种开源模型;③ 把 SciDER 的 data-centric 范式与正式验证或程序合成结合,让 $\phi_\tau(v)$ 探测函数不再是手工编写的 Parquet/CSV 探针,而是能从 schema 描述自动合成,从而支持任意新数据格式的零样本接入。

复现评估

复现评估总体良好。① 开源:项目代码、OpenSciDER-SFT-8K 数据集(8,532 条轨迹 / 730.5M tokens)、OpenSciDER-27B 模型均以 Apache-2.0 发布在 https://github.com/leonardodalinky/SciDER。② 数据:训练数据来自 DataSciBench、DS-1000、DS-Bench、ScienceAgentBench 等公开基准,论文明确说明已把 Section IV 的评估轨迹隔离到独立子集以避免污染。③ 算力:用 2× H200 GPU 训练 2 个 epoch,LoRA 配置 $r=32, \alpha=64$,优化器 AdamW(峰值学习率 $1\times10^{-4}$,cosine 调度),DeepSpeed ZeRO-2 + BF16,部署用 vLLM + YaRN 扩展到 512K 上下文窗口,门槛对一般实验室可控。④ 复现难度:闭源后端的 SOTA 复现需要 Gemini-3-Pro / Claude-Sonnet-4 等商业 API 调用权限;论文同时给出了 OpenSciDER-27B 这一开源替代,使完全本地化复现成为可能。⑤ 主要风险是 EIS 的 LLM-judge 步骤具有较高随机性,多个种子间的方差未充分披露,建议复现时报告至少 3 次独立运行的均值与方差。