MolRSI:面向分子发现的递归自我改进 AI 智能体 MoLRSI: A Recursive Self-Improving AI agent for Molecular Discovery
以跨任务持久记忆驱动经验引导搜索,让分子发现智能体随使用递归变强
前置知识
蒙特卡洛树搜索(MCTS)
通过“选择—扩展—评估—回传”循环在巨大决策空间中找最优路径的算法,经典 UCT 实现用 $UCB = \bar{Q} + c\sqrt{\ln N / n}$ 在利用与探索间平衡。本文中每个树节点是一个候选工作流,子节点是父工作流的一次修改版,同源工作流归为一个族。
MolRSI 的工作流开发完全建立在“经验引导的 MCTS”之上,其五步搜索循环、探索奖励与历史迁移评分都直接源自这一算法,不懂 MCTS 就无法理解方法章节的搜索机制。
AUPRC 与 AUROC
AUROC 是 ROC 曲线下面积,衡量模型对随机正负样本对的排序正确率;AUPRC 是精确率-召回率曲线下面积,在正负样本极度不平衡时(如活性化合物仅占千分之几)比 AUROC 更能反映对少数阳性类的识别能力。两者都只依赖排序结果,不受分类阈值选择的影响,常用于虚拟筛选与性质预测评估。
本文抗菌活性预测与结合剂排序任务均以这两个指标为搜索目标与评价标准:抗菌任务用平均验证 AUPRC 选工作流、用测试 AUPRC 比较六个智能体,pMHC 排序搜索则用 AUROC 引导。
富集因子(EF)
衡量排序方法在头部候选中回收阳性能力的指标:$EF_f = \frac{n_{+,f}/n_f}{N_+/N}$,即头部命中率相对全体阳性率的倍数,随机排序期望值为 1,直接对应“实验预算只够测 top-k”的现实场景。
pMHC 结合剂排序基准以 EF@1% 和 EF@2% 为主要指标,MolRSI 与基线智能体的优劣完全由该指标刻画;设计工作流搜索目标“top 5% 平均分”也与这一头部富集思想一脉相承。
MIC 与 CC50
MIC(最低抑菌浓度)是抑制 90% 以上细菌生长的最低化合物浓度,本文以 MSSA MIC ≤ 32 µg/mL 定义命中;CC50 是使 50% 哺乳动物细胞受损的浓度,衡量安全性。理想抗生素候选应 MIC 低而 CC50 高。
抗生素实验验证部分的所有结论(15.9% 命中率、C3 与 C32 的活性和安全性)都用这两个指标表述,理解命中标准以及“活性—毒性—新颖性”三目标平衡离不开它们。
pMHC 与免疫识别
pMHC 指 MHC-I 分子(如 HLA-A*02:01)展示胞内肽段形成的复合物,是 T 细胞识别病变细胞的基础。设计其 minibinder 极难:靶标与脱靶复合物共享同一 MHC 支架,仅暴露的少数肽残基不同,要求结合剂精确识别肽段。
第二个应用的核心挑战正是肽特异的 pMHC 识别:工作流必须同时优化与目标肽的结合和排除“同 MHC 换肽”的脱靶,这是论文展示“竞争性目标平衡”的典型案例。
递归自我改进(RSI)
指系统通过执行经验反过来改进自身决策策略的闭环。本文形式化为 $\pi_t(a|s) = \pi(a|s; M_t)$,$M_{t+1} = \mathrm{Update}(M_t, E_t)$:记忆决定策略,新经验更新记忆,策略随之演化。
RSI 是论文标题与核心主张,全部关键对照实验(有/无 RSI、zero-search 迁移、记忆池规模扫描)都围绕“跨任务经验是否改进搜索策略”这一命题展开。
研究动机
分子发现需要在天文数字的组合空间中同时满足多个相互冲突的目标——活性、特异性、毒性、结构新颖性、稳定性。传统做法依赖专家手工搭建流程:作者团队此前的抗生素研究用 Chemprop 图神经网络集成预测 MRSA 活性与 HepG2 毒性,对超过 1200 万化合物虚拟筛选后还要人工设定子结构过滤与聚类策略;pMHC 结合剂设计则要求专家挑选肽热点、RFdiffusion 生成策略与正/脱靶判别标准。问题在于,分子表示(SMILES、指纹、图)、模型架构(GNN、Transformer、树模型、指纹-MLP)、训练目标与优化方法的组合空间极其庞大(Figure 1a),且最优配置随生物靶标、数据规模和目标属性剧烈变化;每轮湿实验验证昂贵缓慢,试错成本极高。现有科学智能体(Biomni、Claude Science、STELLA 等)虽能自动化专家定义的协议,但各任务彼此孤立:一个项目学到的“哪个架构适合这类数据”“哪种修改容易失败”无法传递给下一个项目,新任务必须从零开始大量试错。
本文的目标是本文目标是构建一个像资深科学家一样“越做越聪明”的分子发现智能体:在固定计算预算内,为每个新任务自动开发出优于通用智能体的模型与工作流,并把跨任务积累的经验转化为可复用的搜索策略改进。具体分三层:(1) 任务级——自动完成资源整理、技能构建、工作流组装、修改与执行调试的全流程,返回在开发指标(验证 AUPRC、top 5% 平均分等)上最优的工作流;(2) 策略级——把工作流性能、修改成败、执行错误与修复记录写入三类持久记忆,使后续搜索在“选哪个族、选哪个父节点、怎么改、怎么分配算力、怎么修错”上有据可依;(3) 实证级——在两个需要平衡竞争目标的真实场景中端到端验证:抗菌化合物虚拟筛选(平衡抑菌活性、三种人细胞毒性与结构新颖性)与 pMHC 结合剂从头设计(同时要求结合目标肽并排除换肽脱靶),并以前瞻性湿实验(MIC 测定与噬菌体展示富集)检验最终效果。
与已有工作不同的是,切入角度的独特之处在于把“被改进的对象”从单个工作流上升到“开发工作流的策略”本身。已有系统各有分工:Biomni 检索工具数据库并用代码执行组装流程;Claude Science 依靠专家撰写的协议完成过实验验证的蛋白结合剂设计;STELLA、Codex 等负责单任务内迭代——但这些已报道的工作均未建立“执行经验如何改进后续任务的开发过程”这一环节,智能体本质上是每次从头学起的一次性专家。作者把科学家跨项目积累经验的人类认知机制(Figure 1b:项目 1 学到先检查 epitope 可及性、项目 2 学到早测特异性、项目 3 学到换更强优化器)形式化为三类持久记忆加经验引导 MCTS 的组合,并用有/无 RSI、zero-search 迁移和记忆池规模扫描等受控比较,把“经验的价值”本身变成可量化测量的研究对象,这是与以往 AI for Science 工作最根本的差异。
核心方法
直觉上,MolRSI 模拟资深科学家的两种核心能力:把文献方法变成能跑的代码,以及从既往成败中提炼经验。技术路线由四部分组成。第一是 Explore Agent:根据任务描述与数据特性检索相关论文、代码库、工具和基准,为每个资源生成“可复用技能”(写明用途、依赖、输入输出与执行步骤),并在隔离环境中运行示例验证;能修复的标记为 validated 保留,反复修不好的剔除,抗生素场景最终得到 110 个技能(55 模型、48 方法、7 工具/资源),蛋白场景得到 65 个技能(28 模型、37 打分项)。第二是经验引导 MCTS:从资源库组装或从记忆取回的初始工作流作为树根,节点即工作流,子节点即修改版,按五步循环搜索直至预算耗尽。第三是三类持久记忆:solution(工作流+配置+开发分数)、refinement(修改+前后分数差)、execution(运行资源、错误与修复)。第四是递归闭环:记忆在任务内和跨任务间持续更新,策略按 $\pi_{t+1}(a|s)=\pi(a|s;M_{t+1})$ 演化,构成递归自我改进。
核心创新是把“跨任务经验”做成搜索策略的可计算输入,而不只是复用最终答案。与已有方法的本质区别有三点。(1) 与 AutoML/单任务智能体优化不同,MolRSI 的 MCTS 每步决策融合三种信号:当前任务开发分数、访问次数探索奖励(UCT 风格的 $c\sqrt{\ln N/n}$ 项)、以及来自 solution memory 的历史迁移评分——历史经验引导初期探索,当前证据随后逐步接管。(2) 与 RAG 式知识库不同,记忆是结构化且带因果标签的:refinement memory 记录每次修改的前后开发分数差(无论变好、变坏还是失败),execution memory 记录错误—修复对与 GPU 资源消耗,使智能体能复用“该模型在类似数据规模下约需多少显存”“这类报错用某修复已成功过”这类可操作经验。(3) 与一次性迁移学习不同,它显式区分三种利用经验的方式并分别量化:zero-search 迁移(直接搬配置、仅在新数据上拟合参数)、以历史最优工作流为起点的继续搜索、以及策略本身的改进。这种“把改进对象分层”的设计使经验贡献可以被严格归因。
方法步骤详情
每次搜索迭代含五步。步骤 1(选工作流族):对每个族计算“当前最优开发分数 + 探索奖励 + 历史迁移分”的合成评分并取最高者,历史经验在任务早期主导,当前分数随评估增多逐步接管。步骤 2(选父节点):从本任务已评估工作流中采样父节点,偏好开发分数高、已产出候选少的,并叠加历史迁移分。步骤 3(提出修改):从 refinement memory 检索相关任务上的既往修改及结果,据此提出替换方法、改组合方式或调参数等变更并附理由;执行前做格式、去重与可行性检查。步骤 4(执行与评估):按 execution memory 的资源记录配置环境、分配 GPU 并运行;失败时先检索相似错误的历史修复,无匹配则从当前报错诊断,重跑直至修复次数与计算上限,成功则得到开发分数。步骤 5(更新策略):把工作流+分数、修改+结果、资源与错误+修复分别写入三类记忆,供后续迭代与新任务使用。预算耗尽时返回开发分数最高的工作流。另有 zero-search 模式:按任务类型、指标、数据规模与描述相似度找到最佳源任务,直接取其最优工作流,在新任务数据上拟合参数后免搜索评估。
技术新颖性
技术新颖性体现在四点。(1) 记忆三分法是新设计:solution/refinement/execution 分别对应“什么好用”“什么改动有效”“怎么跑得动”三类异质经验,每条记录绑定任务、数据集、指标、split 与种子等上下文,比以往智能体只存对话历史或最终结果的方案精细得多。(2) 把 RSI 形式化为 $\pi_{t+1}(a|s)=\pi(a|s;\mathrm{Update}(M_t,E_t))$ 的策略演化,明确区分“任务级改进”(找到好工作流)与“策略级改进”(下次搜索更快更准),并用 zero-search 迁移与有/无 RSI 对照把两者解耦,回答了“收益来自继承配置还是更好搜索”的归因问题。(3) 评估范式创新:以跨任务策略改进为评估对象,同预算比较含经验与不含经验的搜索,用 2000 次随机抽样的记忆子集估计池规模效应的 IQR 与 5–95% 区间(Figure 2f),为“会自我改进的智能体该怎么测”提供了可复用模板。(4) 工程上把文献—代码—数据库转化为经过执行验证的技能库,保证组合出的工作流默认可运行,降低 MCTS 在无效实现上浪费预算的概率。
实验结果
计算基准:(1) 六个物种抗菌活性预测(每任务 20 次评估预算),无 RSI 版本平均测试 AUPRC 最高(4 个任务第一、2 个第二),优于 Biomni、Claude Science、STELLA、Codex 等五个基线;(2) 载入 25 个源任务经验后 RSI 在全部 6 个任务提升 AUPRC,两个物种上首个工作流即超所有基线 20 轮的结果,zero-search 迁移在 3 个物种上超过从零搜索;(3) 记忆池从 2 个任务扩到 25 个,迁移 AUPRC 约 0.32 升至 0.37,超过无 RSI 搜索的 0.361;(4) 14 个 miniprotein 排序任务 macro EF@1%=8.01,次优仅 7.62。实验:(5) 抗生素筛选命中率 15.9%(17/107)对专家工作流 8.7%(21/241),提升约 82%,共享持出集 AUROC 0.828 对 0.590;(6) pMHC 排序 EF@2%=5.55 对最佳基线 1.85,噬菌体展示获 5/251 与 3/266 个肽特异命中,基线与无排序消融均零命中。详见 benchmarks。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| 抗菌活性预测(S. aureus 等 6 个物种,5 个相似性 split) | 平均测试 AUPRC(每任务 20 次工作流评估预算) | MolRSI w/o RSI:6 任务平均第一(4 个任务排名第 1、2 个任务排名第 2) | Biomni、Claude Science、STELLA、Codex、Claude Code | 平均排名 1.33(次优 Biomni 为 2),总体最优 |
| MRSA 抗生素虚拟筛选的前瞻实验验证 | 实验命中率(MSSA MIC ≤ 32 µg/mL,含 95% Wilson 置信区间) | 15.9%(17/107 化合物) | 此前专家驱动工作流:8.7%(21/241),相同训练数据与 1210 万化合物文库 | 相对提升约 82% |
| S. aureus 活性预测(共享 271 化合物持出集) | AUROC / AUPRC | 0.828 / 0.300 | 此前专家驱动的活性预测模型:0.590 / 0.090 | AUROC +0.238,AUPRC +0.210(约 3.3 倍) |
| miniprotein 结合剂排序基准(14 个蛋白靶标,17215 个设计) | macro EF@1% / EF@2% | 8.01 / 7.29(MolRSI w/o RSI,未用跨任务记忆) | 次优智能体:7.62 / 6.71 | +0.39 / +0.58 |
| MART-1 pMHC 排序(gp100 上搜索、MART-1 持出测试) | EF@1% / EF@2% | 3.65 / 5.55(含 14 个 miniprotein 任务经验);无 RSI 为 0.00 / 0.00 | 四个基线智能体 top 1% 均无命中(EF@1%=0),最高 EF@2%=1.85 | 唯一在 top 1% 找到实验确认结合剂的智能体 |
| pMHC 结合剂前瞻实验筛选(E. coli 噬菌体展示,两轮筛选) | 命中数 / 可评估设计数(标准:on-target log2FC > 4 且超过最高脱靶富集) | MolRSI:MART-1 5/251,SARS-CoV-1 3/266 | Claude Science:0/288 与 0/267;去掉学习排序的消融:0/479 | Claude Science 与无排序消融完全失败,MolRSI 全部命中具有优于脱靶的偏好性结合 |
局限与改进
作者承认的局限:生物验证仍是必要最终裁判,当前策略更新只用计算分数,尚未把湿实验成败回馈进策略更新;经验池构成影响迁移收益(Figure 2f 的宽分位区间说明不同源任务组合差异明显);pMHC 数据集规模有限且需向通讯作者索取而非完全公开。我的补充观察:(1) 源任务与目标任务同域性强(ADMET/细胞毒性→抗菌活性、miniprotein→pMHC),跨大领域(分子↔蛋白)迁移未被测试,任务匹配基于类型/指标/规模/描述相似性,领域跨度大时可能失效;(2) 15.9% vs 8.7% 的对比虽控制了训练数据和文库,但两条管线测试化合物数量不同(107 vs 241),Wilson 置信区间较宽,结论强度有限;(3) 结果依赖特定骨干模型(Claude Sonnet 5,Codex 用 GPT-5.5),对底层 LLM 能力的敏感性未做消融;(4) 算力成本高:排序基准每任务 300 A100 GPU 小时,设计搜索每目标最多 1000 A100 GPU 小时;(5) “递归自我改进”停留在策略/记忆层面,智能体不修改自身代码或架构,与强意义下的 RSI 有距离。
独立分析的弱点
独立分析五点弱点。第一,记忆检索与加权偏启发式:任务匹配靠类型/指标/规模/描述相似性,历史迁移分如何跨不同指标(AUPRC、AUROC、EF)归一化未说明,记忆池混入异构任务时评分可比性存疑,改进方向是引入校准的跨任务分数归一或可学习的记忆检索器。第二,执行修复可能重复烧预算:Figure 1c 显示 GPU 显存错误在多个任务反复出现,说明部分失败未被记忆根除;可为高频错误建立确定性修复规则或沙箱预检,把修复经验编译成约束而非仅靠检索。第三,开发分数与实验目标可能错位:抗菌搜索用平均验证 AUPRC 选工作流,但 AUPRC 对最头部化合物的排序不敏感(这正是 pMHC 场景改用 EF 的原因),抗菌管线若采用 top-k 富集类目标可能进一步提高实验命中率。第四,统计功效有限:前瞻筛选每臂仅一条管线、一次实验,命中率对比置信区间宽;5 个 split 的标准差只反映数据划分噪声,不反映搜索随机性,建议报告多种子端到端搜索的方差。第五,两个应用都依赖作者自有的大规模标注数据(抗菌活性、细胞毒性、pMHC 筛选数据),第三方在纯公开数据上能否复现同等优势未知。
未来方向
作者提出的方向:把湿实验结果(合成成功率、MIC、噬菌体富集倍数)回馈进策略更新,让实验室成败直接影响后续工作流的探索优先级,把搜索策略改进与发现的生物学目标更紧密连接;建立专门评估“智能体跨任务策略改进能力”的基准,比较哪种经验组织方式让策略提升最快。基于本文成果可延伸的方向:(1) 把检索式记忆升级为参数化技能库,对高频成功的工作流族训练轻量代理模型或先验分布,进一步压缩单任务搜索预算;(2) 与主动学习结合,让智能体自行设计信息量最大的实验批次,用贝叶斯优化在“利用好工作流”和“探索新区域”间权衡;(3) 跨领域迁移测试:用分子任务经验辅助蛋白任务(或反向),检验记忆表示的抽象层级是否足以支撑远域泛化;(4) 多智能体并行搜索加记忆共享,研究经验池的协同效应、冗余与冲突消解;(5) 安全与审计:递归自我改进系统需要可验证的策略变更轨迹,本文三类记忆天然构成审计日志,可发展为形式化的策略变更验证框架;(6) 成本工程:结构折叠与模型分数的缓存复用已被证明有效,可进一步用蒸馏小模型做初筛、昂贵打分器只做精排,把单目标设计成本从 1000 A100 小时量级降下来。
复现评估
复现难度中等偏上。有利因素:数据大体公开——分子性质预测来自 TDC;抗菌活性、三种细胞毒性与 271 化合物持出集来自作者此前开放的研究;14 个 miniprotein 任务由已发表工作的实验标注设计组装(1565 个阳性、17215 个设计);补充材料含完整任务提示词、模型标识、API 设置与基线配置,数据划分(Tanimoto 0.40、8:1:1、五个随机种子)交代清楚。不利因素:pMHC 数据需向通讯作者索取;论文未明确代码开源情况;算力门槛高——排序基准每任务 300 A100 GPU 小时、设计搜索每目标最多 1000 A100 GPU 小时,加 25 个源任务搜索总量达数千 A100 小时;骨干绑定 Claude Sonnet 5(Codex 用 GPT-5.5),API 费用与版本漂移影响可比性;湿实验(M13 噬菌体展示正负选择、MIC/CC50 测定、KACTUS pMHC 与 Twist 基因合成)需要生物学平台,计算组无法复制。对计算研究者,最易复现的是 Figure 2a 与 4a 的基准对比,最难复现的是两项前瞻性筛选实验。
论文图表