NanoResearch:通过技能、记忆与策略协同演化实现个性化研究自动化 NanoResearch: Co-Evolving Skills, Memory, and Policy for Personalized Research Automation
提出三层协同演化框架,让多智能体研究系统按用户偏好积累经验并越用越好。
前置知识
LLM 多智能体系统
由多个基于大语言模型(LLM)的智能体通过分工协作完成复杂任务的系统。每个智能体通常承担特定角色(如规划、写作、调试),智能体之间通过消息传递协调。代表系统包括 The AI Scientist、AI-Researcher 等。
NanoResearch 本质是一个多智能体框架,Orchestrator + 阶段化智能体是其骨架;不熟悉多智能体范式会难以理解三阶段流水线、Retrieve/Update 等机制的设计动机。
端到端研究自动化
让 AI 系统自动完成从文献调研、提出假设、设计实验、编写代码到撰写论文的完整研究链路。这条链路传统上由人类研究者耗时数周完成,目标是让 AI 在几小时内自动产出可比较的实验结果。
本文是端到端研究自动化赛道的工作,三阶段流水线(Ideation / Experimentation / Writing)是它与传统 AI for Science 工具(只辅助单点任务)的根本差异。
自我蒸馏策略优化(SDPO)
一种将单条自然语言反馈转化为 token 级稠密学习信号的策略优化方法。它把"看到反馈后重新生成"的模型作为自教师(self-teacher),让原策略去拟合其 token 分布,无需奖励模型或偏好标注数据。
SDPO 是 NanoResearch 把用户口头偏好沉淀为参数修改的核心机制;如果不理解 SDPO,就无法理解 Policy Learning 如何把'希望方法更简单'这种反馈转成 planner 的持续改变。
ReAct 推理循环
Reason + Act 的交替循环范式:模型先产生思考(reasoning),再调用工具(action),观察结果后再次思考,循环直到任务结束。它让 LLM 智能体在执行过程中保持可解释的中间步骤。
Stage I 的 Ideation 阶段使用 ReAct 循环来识别研究空白并生成候选假设,是 NanoResearch 把文献检索和假设生成串成证据链的关键。
个性化研究偏好
研究者之间在方法论倾向、评估标准、目标会议、风险容忍度和资源预算上的差异。例如 AI4Science 研究者强调可复现性,CV 研究者更看重架构新颖性,会议审稿人更关心清晰消融。
论文的核心论点是:研究产出取决于研究者的'上下文',统一流水线无法服务所有人;理解这一点才能明白为什么需要三层级协同演化。
研究动机
当前的端到端研究自动化系统(The AI Scientist、AI Scientist-v2、EvoScientist、AI-Researcher、DeepScientist 等)虽然能跑通从立项到写稿的全流程,但本质上都是"一刀切"流水线:相同的输入经过相同的处理就得到相同的输出,不管用户是做 AI4Science 强调可复现性的研究者,还是做 CV 强调架构新颖性的研究者。论文在 Figure 1(a) 直观展示了这种困境——一位保守的"可复现优先"科学家和一位激进的"探索型"科学家走完流水线后拿到的研究计划几乎一模一样。这导致三类能力空缺:(1) 系统缺乏跨项目可复用的过程性知识,每次启动都从零开始重新踩同样的调试坑,连 EvoScientist 这种带记忆的系统也只是存储情节级叙事而非蒸馏后的可复用规则;(2) 系统不跨会话累积用户级经验,过去的假设、验证过的配置、推断出的资源约束在会话结束后被丢弃,下一次规划只能从通用先验出发;(3) 系统无法内化隐式偏好,"希望方法更简单""希望加强效率分析"这类反馈既不够具体到写进规则,又不够清晰到压缩进记忆条目,没有机制把它转成参数级变化。
本文的目标是NanoResearch 的目标是让多智能体研究系统在持续使用中能逐步适应单个用户的需求。具体而言,它要同时具备三种能力:把反复出现的执行操作蒸馏成可在项目间复用的过程性规则;维持用户和项目特定的经验,让每一次规划都基于真实历史而非通用先验;将用户自由形式的反馈转化为对规划器参数的持续更新,使隐式偏好能在后续协调中被尊重。论文还要求这一切在 7 个领域(NLP、CV、Multimodal、Tabular ML、Time Series、Graph ML、Audio)的 20 个研究任务上都成立,并通过多轮迭代呈现持续改善。
与已有工作不同的是,与 EvoScientist 把"自演化"简化为被动记忆日志不同,NanoResearch 强调"三层级协同演化":技能层(执行经验)、记忆层(项目上下文)、策略层(用户偏好)必须同时在线、互相喂养,才能在多轮迭代中同时改善执行可靠性、规划质量和偏好对齐。论文独特切入角度是把这三个层级用形式化的 Retrieve/Update 接口串成一个闭环——技能执行会丰富记忆,记忆又强化后续规划,而 SDPO 让偏好信号持续重塑规划器,三者缺一不可。这与 AI-Researcher 用 mentor-guided agent loop、DeepScientist 用 Bayesian Optimization 的做法都不同:NanoResearch 的核心不是单点算法创新,而是把"个性化"提升为研究自动化系统的基础维度。
核心方法
NanoResearch 用一个 Orchestrator $\mathcal{O}$ 串起三阶段流水线。第一阶段(Idea Generation and Planning)做文献综述 + ReAct 假设生成 + JSON 化实验蓝图 + 内部 reviewer 迭代修正;第二阶段(Experimental Validation and Optimization)做代码生成 + SLURM 集群执行 + 自动 debug 循环 + 结果分析;第三阶段(Paper Writing and Review)做分段 LaTeX 写作 + 盲审式 Review + 迭代修订。直觉上,每一次任务开始前 Orchestrator 都从 Skill Bank $\mathcal{S}$ 和 Memory Module $\mathcal{M}$ 里检索最相关的 top-k 条目作为上下文,让 LLM 智能体'带着历史经验'工作;每一次任务结束后,Orchestrator 又把这次轨迹 $\tau$ 反思蒸馏成新的可复用规则和新记忆条目。用户在三阶段间提供自然语言反馈 $F$,通过 SDPO 直接微调 Orchestrator 的 Planner(Qwen3-8B)参数,使偏好跨会话沉淀。
三层级协同演化的本质创新点在于:把"个性化"拆成可独立衡量又互补的三层——Skill Bank 沉淀执行性经验(怎么写确定性的实验协议、怎么设计 one-factor 消融),Memory Module 沉淀项目性经验(UCI HAR 之前用什么 baseline 协议、哪类低风险方向有效),Planner + SDPO 沉淀偏好性经验(这位用户喜欢克制风格 vs 喜欢探索风格)。与已有方法相比,AI-Researcher 的 mentor 回路只在单次运行内起作用,没有跨会话的技能沉淀;EvoScientist 的记忆是 episode 级叙事,缺少 SDPO 这种把反馈转成参数修改的机制;DeepScientist 用 BO 做长程探索但完全不考虑用户偏好。本文的关键公式是 SDPO 的 logit 级策略梯度 $\nabla_\theta \mathcal{L}_{SDPO}(\theta) = -\mathbb{E}_{y\sim\pi_\theta(\cdot|x)} \sum_{t=1}^{|y|} \mathbb{E}_{\hat{y}_t \sim \pi_\theta(\cdot|x,y_{<t})}[A^{SDPO}_t(\hat{y}_t) \cdot \nabla_\theta \log \pi_\theta(\hat{y}_t|x,y_{<t})]$,其中 $A^{SDPO}_t(\hat{y}_t) = \log \frac{\pi_\theta(\hat{y}_t|x, F, y_{<t})}{\pi_\theta(\hat{y}_t|x, y_{<t})}$ 把反馈注入后的策略当成自教师,让原策略在 token 级别上向其对齐。
方法步骤详情
完整方法流程如下。Step 1:构建用户档案 $U$,通过交互式问答获取研究领域、方法偏好、风险偏好、预算、目标会议风格等。Step 2(Stage I 启动):Orchestrator 从 $\mathcal{S}, \mathcal{M}$ 检索 $\mathcal{S}_I, \mathcal{M}_I = \text{Retrieve}(\mathcal{S}, \mathcal{M} | T, U)$,然后产出高层计划 $P_I = \text{Plan}(T, U | \mathcal{S}_I, \mathcal{M}_I)$。Step 3:ReAct 循环通过 OpenAlex、arXiv、Semantic Scholar 等接口拉取相关论文 $L$,并用量化证据抽取机制直接从论文中解析性能得分得到证据 $E$,再生成 $K$ 个候选假设 $H = \{h_1, \dots, h_K\}$,做新颖性验证后挑出 $h^*$。Step 4:把 $h^*$ 翻译成 JSON 格式的实验蓝图 $B$(含数据集、基线、架构、评估指标、消融),内部 reviewer 给出 $c_B$ 驱动的迭代精炼 $B^{(t+1)} = \text{Refine}(B^{(t)}, c_B^{(t)}, P_P, E)$。Step 5(Stage II):Orchestrator 拉取编码相关 skill $\mathcal{S}_C$ 和项目记忆 $\mathcal{M}_C$ 生成代码 $W$,部署到 SLURM 集群后做自动 debug $W^{(t+1)} = \text{Debug}(W^{(t)} | \mathcal{S}_C, \mathcal{M}_C)$,成功后将日志 $R_{raw}$ 解析为分析报告 $A$。Step 6(Stage III):Orchestrator 拉取写作相关 skill $\mathcal{S}_W$ 和 $\mathcal{M}_W$ 生成 LaTeX 草稿,盲审式 Review 不带 skill/memory 检索,给出 feedback $f_R$ 驱动的修订 $\text{Draft}^{(t+1)} = \text{Revise}(\text{Draft}^{(t)}, f_R^{(t)})$。Step 7:每阶段结束后 Orchestrator 反思轨迹 $\tau$ 做更新 $\mathcal{S}^{(t+1)} = \mathcal{S}^{(t)} \cup \text{Distill}_{skill}(\tau)$,$\mathcal{M}^{(t+1)} = \mathcal{M}^{(t)} \cup \text{Summarize}_{mem}(\tau)$,并对语义重叠条目做合并。Step 8:用户反馈 $F$ 被编码为 Orchestrator Planner 的 SDPO 更新,使 $\pi_\theta$ 持续吸收偏好。
技术新颖性
技术新颖性体现在三个层面。第一个新颖性是跨层级 Retrieve/Update 协议:检索阶段对 skill 使用"使用频率 + 置信度"的混合打分以突出鲁棒策略,对 memory 使用"严格条件匹配"以只返回项目特定经验;更新阶段用 $\text{Distill}_{skill}$ 把可泛化规则(如确定性的实验协议、one-factor 消融设计)抽进 Skill Bank,用 $\text{Summarize}_{mem}$ 把项目级事实(如 baseline 协议、失败假设)写进 Memory。第二个新颖性是 SDPO 适配到 Planner 的 logit 级策略优化:把反馈条件化的策略作为 self-teacher 给出 token 级 advantage,无需奖励模型或偏好标注数据,这在 RAG/agent 场景中尤其重要,因为反馈通常是自然语言而非数值奖励。第三个新颖性是三阶段解耦的 review 策略:Stage III 的 Review agent 被刻意剥离 skill/memory 检索,让它能像外部审稿人一样对草稿做无偏评估,这避免了自我强化循环。新颖性还体现在对多轮迭代的纵向利用——Table 4 显示 Skill Bank 从 R1 的 0.80 涨到 R3 的 2.30、Memory 从 6.40 涨到 12.00,三层级是真在持续生长而不是空转。
实验结果
在 20 个 LLM 模拟科学家任务的五维评估上,NanoResearch 第一轮就已经在所有指标上超过四个基线(Table 1)。具体看:Align 8.163 vs 上一最佳 6.656(AI Scientist-v2),提升 22.7%;Novel 4.960 vs 4.555(EvoScientist),提升 8.9%;E2E 100% vs 90%(DeepScientist),是唯一拿到满分的系统;Perf 0.6844 vs 0.6238(AI Scientist-v2),提升 9.7%;Writ 5.428 vs 5.402(AI-Researcher),几乎追平但已被超越。多轮迭代增益显著:R1→R3 在 Align 上从 8.163 涨到 8.963(+9.8%),Novel 从 4.960 涨到 5.645(+13.8%),Perf 从 0.6844 涨到 0.7548(+10.3%),Writ 从 5.428 涨到 6.172(+13.7%)。Ablation(Table 2)显示三个核心组件都不可缺:去掉 Planner Model 在所有指标上掉得最狠(Align 7.820,E2E 0.835),去掉 Skill Bank 让 E2E 从 1.000 掉到 0.849(过程性知识是执行可靠性的命门),去掉 Memory 主要伤 Novel(4.960→4.400),去掉 Preference Alignment 让 E2E 保持 1.000 但其他维度退化(说明它只磨规划质量不保执行)。效率层面(Table 3)R1 因为缺经验反而更贵($4.157 vs EvoScientist 的 $2.944),但 R3 总成本跌到 $1.430,比 AI Scientist-v2 便宜 76%、比 EvoScientist 便宜 51%,且平均 API 调用从 23.65 降到 15.80,runtime 从 2.24h 降到 1.05h。Figure 4 的 per-task 性能图显示 NanoResearch 在大多数任务上稳定领先。真实研究者评估(Table 5、Table 6)进一步确认:三位 PhD 研究者各自跑自己的任务时,NanoResearch R1 就已经 Align 9.333(vs DeepScientist 6.333)、Perf 0.6466(vs EvoScientist 0.6537 接近),R3 时 Perf 涨到 0.8603,超过所有基线,且 Novel/Writ 在 R2 也分别涨到 7.000 和 8.000。Figure 5 的三用户 case study 在 UCI HAR 上呈现了三种不同的'品味':Evidence-first 用户得到 FixedMultiScaleCNN(用 kernel=[3,5,7] 固定多尺度+残差)配 Fixed Encoder、强调 controlled reproducibility;Ablation-focused 用户得到 TemporalFeatureGating(1D CNN + 可移除 temporal gate)配 Pluggable Gate、强调 plug-and-play 模块化提升;Dataset-driven 用户得到 TemporalRouting(多专家 sample-adaptive router)配 Adaptive Routing、强调 leaderboard 风格性能声明。三用户在同一个 UCI HAR 主题下跑出三种 blueprint、三套代码、三种写作风格,证明用户档案 $U$ 真的在每一步塑造系统。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| 20 个跨 7 领域研究任务(NLP/CV/Multimodal/Tabular/Time Series/Graph/Audio)的端到端研究自动化 | Compliance (Align., 1-10) | NanoResearch R1: 8.163;R3: 8.963 | AI Scientist-v2: 6.656;EvoScientist: 4.823;DeepScientist: 4.504;AI-Researcher: 4.206 | R3 相对最佳基线提升 34.6%(8.963 vs 6.656),R1 已领先 22.7% |
| 同上 | Innovation (Novel., 1-10) | R1: 4.960;R3: 5.645 | EvoScientist: 4.555;AI Scientist-v2: 3.958;DeepScientist: 3.934;AI-Researcher: 2.953 | R3 相对 EvoScientist 提升 23.9%(5.645 vs 4.555),R1 已领先 8.9% |
| 同上 | Executability (E2E, 0-1) | R1-R3: 1.000(全周期稳定) | DeepScientist: 0.900;EvoScientist: 0.750;AI-Researcher: 0.500;AI Scientist-v2: 0.500 | R1 直接满分,比第二名 DeepScientist 高 11.1 个百分点 |
| 同上 | Effectiveness (Perf., 任务平均准确率) | R1: 0.6844;R2: 0.7320;R3: 0.7548 | AI Scientist-v2: 0.6238;EvoScientist: 0.5779;DeepScientist: 0.5634;AI-Researcher: 0.2849 | R3 比 AI Scientist-v2 高 21.0%,R1 起步就领先 9.7% |
| 同上 | Expression (Writ., 1-10) | R1: 5.428;R3: 6.172 | AI-Researcher: 5.402;EvoScientist: 4.953;DeepScientist: 4.806;AI Scientist-v2: 4.125 | R3 比 AI-Researcher 高 14.3%,R1 几乎追平已有最佳 |
| 3 位 PhD 研究者的真实研究任务 | Performance (Perf.) | R1: 0.6466;R2: 0.8502;R3: 0.8603 | EvoScientist: 0.6537;DeepScientist: 0.6094;AI-Researcher: 0.5495;AI Scientist-v2: 0.4965 | R3 相对 EvoScientist 提升 31.6%,R1→R3 单系统内增长 33.0% |
| 平均每个 topic 的总成本 | Total Cost ($) | R1: $4.157;R2: $2.542;R3: $1.430 | AI Scientist-v2: $6.039;EvoScientist: $2.944 | R3 比 AI Scientist-v2 便宜 76.3%,比 EvoScientist 便宜 51.4% |
| 平均每个 topic 的 API 调用数 | API Calls | R1: 23.65;R3: 15.80 | AI Scientist-v2: 68.30;EvoScientist: 24.67 | R3 比 AI Scientist-v2 减少 76.9% 调用 |
局限与改进
作者在第 7 节明确承认了多个局限。第一,评估范围限定在 AI/ML 任务,因为这类任务的研究产出可以完全用代码和文本来实现,但像生物、化学、物理等需要物理实验和仪器控制的学科,扩展到 NanoResearch 仍是一个非平凡的开放问题。第二,框架严重依赖基础大模型作为骨干(Planner 用 Qwen3-8B,Coding 用 GPT-5.3-Codex,Writing 用 Claude Sonnet 4.6,Review 用 Gemini 3.1 Flash Lite 等),存在计算成本和 API 费用的可及性问题,资源受限的研究者难以使用。第三,Figure 6-8 展示的三个真实系统生成论文虽然有完整结构,但 Figure 5 的 case study 也暴露出'用户档案主导一切'可能带来的副作用:同一个 UCI HAR 主题在三种偏好下产出三种本质上不同的方法,研究者若档案定得太死可能反而错过更优解。第四,Table 5/6 显示 R2→R3 时 Novel 和 Writ 出现轻微下降,作者推测这是因为这两个维度对'个人品味和风格偏好'最敏感,多轮迭代不一定单调提升。第五,本系统的'个性化'本质上是 LLM 提示工程 + SDPO 微调的组合,是否能真正泛化到从未见过的研究社区/会议风格还缺乏证据。第六,由于评估主要依赖 LLM judge 和 3 位 PhD 的主观打分,存在 LLM-as-judge 偏置和评分者间一致性风险——论文中虽然给出了 align/novelty/writ 的 prompt 模板(附录 A-C),但没报告 inter-rater reliability。综合我自己的观察,论文对'协同演化'的因果归因相对较弱:虽然 ablation 证明每个组件有用,但没能说清'是 SDPO 让 R2→R3 Perf 涨了'还是'是 Memory 涨了让 Perf 涨'——这种归因在多变量共变时本身就很难,但论文并未尝试 cross-round 对照实验。
独立分析的弱点
从独立分析看,几个弱点值得改进方向。第一,'个性化档案 $U$'是手工构造的强先验(附录 E 中三个档案的字段从研究偏好、资源预算到 LaTeX 模板都被显式指定),但论文没提供从用户历史论文/已发表成果中自动抽取 $U$ 的方法,落地时需要研究者手动填表,改成 LLM 解析用户 arXiv/Google Scholar 主页自动构建档案会更实用。第二,Skill Bank 的'蒸馏'和'Memory 的总结'都依赖 Orchestrator 的反思 LLM 调用,本质是 LLM 总结 LLM,可能引入错误积累;建议加入'技能有效性验证'步骤,即对每条新 skill 在后续任务上做 A/B 检验,长期不提升的 skill 应当被剪枝。第三,SDPO 把反馈转成 Planner 的参数修改,但 Planner 是 Qwen3-8B 这种小模型,多轮 SDPO 后可能出现过拟合到当前用户偏好的风险,特别是对噪声反馈的鲁棒性未做评估;建议加入 KL 约束或与 base policy 的回退机制。第四,论文缺乏失败模式分析:当 reviewer 在 Stage I 拒绝所有 $K$ 个候选假设、或者 Stage II 的 debug 循环跑满 retry budget 仍失败时,NanoResearch 是怎么降级/汇报的?目前看是默默退回到 $h^*$ 的次优选项,没有显示失败-恢复路径。第五,评测依赖 LLM judge,与 AI Scientist-v2、EvoScientist 等之前的工作不直接可比,不同论文用的 LLM judge 强度不一样;建议后续工作做 human study 的大规模复现或用胜率/Elo 等独立指标。第六,Figure 5 显示同一主题下三种用户得到三种'本质不同'的方法,这反过来说明系统对档案的鲁棒性较弱:档案稍微改一个字眼,蓝图可能跳到完全不同的方法,对一个想'我先看看有几种可能'的用户来说不友好。
未来方向
作者和本文成果都指向若干可延伸方向。第一,作者明确点出把 NanoResearch 推广到生物/化学/物理等需要'湿实验 + 仪器控制'的学科是一条非平凡的下一步,需要把 Stage II 的 SLURM 集群 + Python 流水线换成对实体机器人/移液工作站的接口。第二,Table 1 的 R1→R3 Perf 提升 10.3%、E2E 始终 100%,但系统能否持续到 R5/R10 仍未验证;当 Skill Bank 涨到几百条、MEM 涨到上千条时,检索的 top-k 还能不能精准命中是个开放问题,需要做长程演化曲线实验。第三,Figure 5 的多用户 case study 暗示了一个'研究计划推荐器'的可能应用:用同一份用户档案,让 NanoResearch 给出 $K$ 个不同方法供用户挑选,再基于用户选择做 SDPO——这会改变 pipeline 的并行性。第四,跨用户的'协作演化'也很值得探索:多个研究者共用一个 Skill Bank,每个人的偏好作为子策略存在,这种 multi-tenant 形态在企业内部研究协作里特别有用。第五,把 SDPO 推广到 reward model-free 的偏好对齐与 RLHF 之外的第三种人类反馈形式(自由语言反馈)的对比研究会很有意义;本文已经把这一想法落地在 planner 上,但其它组件(coding、writing agent)的反馈内部化还没做。第六,论文的 baseline 都是开源多智能体系统,但没与闭源的 GPT-Researcher、Claude with Research Tools 等商业产品做对比,未来的工作可以加上这条线。
复现评估
复现性整体较好但仍有门槛。论文在摘要中明示有 Code 和 Dataset 公开(具体仓库链接未在截取文本中给出,但明确承诺发布),并且附录 F 给出了 20 个研究任务完整的 JSON schema,可直接被任何系统解析。模型栈完全公开:Planner 是 Qwen3-8B(可微调的小模型)、Ideation/Planning/Setup 用 DeepSeek-V3.2、Coding/Debugging 用 GPT-5.3-Codex、Writing 与图表代码生成用 Claude Sonnet 4.6、图像生成用 Gemini 3.1 Flash、Review 用 Gemini 3.1 Flash Lite、Revision 用 Gemini 3 Pro。算力方面,单任务最大预算为 1-2 张 A100 80GB 跑 3-5 天,远低于大模型预训练。但有几点增加复现难度:(1) 整个系统的端到端复现需要至少 6 个不同 LLM 的 API 凭证和付费额度,单一研究者难以承担;(2) 评测用了 3 位 PhD 的人工打分(Table 5/6),新研究者复现实验时拿到不同 LLM 版本的 judge,分数不可直接比较;(3) SDPO 的训练细节、Planner 的初始权重与超参在文中没有完整描述(论文只给了 gradient 形式),需要参考 SDPO 原论文 [6];(4) 模拟科学家的角色扮演 prompt(附录 4.2.4)虽然已给出,但 Claude Sonnet 4.6 模型版本在未来会变化,prompt 同样文本下行为可能漂移;(5) 20 个任务覆盖 7 个领域,每个任务都有不同 dataset、baseline、metric,复现所有任务需要相当大的算力和数据准备时间。综合看,算法思路可复现,但完整 benchmark 复现成本高,建议先复现 R1 的主要数字、再做小规模 abaltion 验证。
论文图表
图 (a) 描绘了'统一流水线':相同输入→标准化处理→通用评估→相似输出→均匀结果;图 (b) 描绘 NanoResearch:Researcher Profile(Topic/Method/Experiments/Paper)经由 NanoResearch 的 Skill/Memory/Policy 三层协同演化,分流给 A 严格实验者、B 探索型研究者、C 实用型投稿人三种 persona,每种人得到不同的 Controlled Reproducible / Open Questions / Simple clear ablations 等产出。
这是论文的核心动机图,一图说清'为什么需要个性化'和'三层级协同演化怎么工作',所有读者都应从此图入手理解问题定义。