← 返回 2026-04-03

ASI-Evolve：让 AI 加速 AI 自身的发展 ASI-Evolve: AI Accelerates AI

Weixian Xu, Tiantian Mi, Yixiu Liu, Yang Nan, Zhimeng Zhou, Lyumanshan Ye, Lin Zhang, Yu Qiao, Pengfei Liu 📅 2026-03-31 👍 29 2026-07-13 08:36
AI-for-AI LLM Agent 强化学习算法设计 数据清洗 智能体框架 神经架构搜索 进化搜索
arXiv HuggingFace PDF

一个具备认知库与分析器的智能体进化框架，在架构、数据、RL算法三大 AI 子领域同步发现超越人类专家的设计。

前置知识

智能体进化框架 (Agentic Evolution Framework)

指一类让 LLM 充当研究员、以"试错 + 代码修改 + 评估"闭环方式自动优化目标系统的系统。每一轮迭代包含生成候选、执行实验、记录结果与学习经验四个阶段，并维护一个候选档案（如 MAP-Elites）以平衡多样性与利用。

ASI-Evolve 本质上是一种进化式智能体框架，理解这一点是看懂它与 AlphaEvolve、OpenEvolve、GEPA 等同类工作差异的前提。

线性注意力 / DeltaNet

标准 Transformer 注意力复杂度为 $O(N^2)$，处理长序列时代价过高。DeltaNet 通过 delta 规则把 attention 分解为可递推的矩阵状态更新，实现 $O(N)$ 的线性复杂度，并能通过 chunk-wise 模式进行高效并行训练。

ASI-Evolve 的架构搜索任务以 DeltaNet 为基线，并发现优于 DeltaNet、Mamba2、Gated DeltaNet 的多种线性注意力变体，需要先了解这套机制。

GRPO (Group Relative Policy Optimization)

DeepSeek 提出的一种用于 LLM 后训练的强化学习算法，通过组内归一化估计优势 $A_i = (r_i - \mu)/\sigma$，去掉了传统 PPO 中的 value network，结构更简洁、可在数学推理任务上稳定提升。

ASI-Evolve 在 RL 算法设计上以 GRPO 为对照基线，并通过改造其优势估计与裁剪机制，发现了比 GRPO 高 +12.5 分的新算法。

MAP-Elites 与 UCB1 采样

MAP-Elites 是一种质量多样性算法，把候选按行为特征 (如复杂度、多样性) 分箱 (bin) 保存，每轮从不同箱中采样以维持种群多样性；UCB1 则把每个节点视作多臂老虎机的臂，按 $\text{score} + c\sqrt{\ln N / n_i}$ 选择父节点，奖励高分行又探索冷门。

ASI-Evolve 的数据库采样策略是消融实验的核心变量，理解两种策略的"利用 vs 多样性"权衡才能看懂消融结论。

研究动机

AI 自身的进步依赖数据、模型架构与训练算法三根支柱的协同推进，而每一支柱的迭代都涉及假设生成、代码改动、训练实验和结果分析四个环节，这些环节在实践中被多重人类瓶颈严重制约：人可并行搜索的假设空间极其有限；每次实验需要修改大代码库、消耗数小时到上百小时 GPU 算力，迭代周期长达数天；分析多维实验信号并把洞见沉淀下来高度依赖个人经验和直觉，知识难以系统化传递。直接后果是 SOTA 模型的单点改进幅度越来越小——例如 Mamba2 仅在 DeltaNet 之上提升 +0.34 分，提示人类专家级设计已进入收益递减阶段。

本文的目标是论文的核心目标非常明确：回答"AI 能否加速 AI 自身的发展"这一根本问题，并交付一个名为 ASI-EVOLVE 的智能体框架，让 AI 端到端地、自主地在模型架构设计、预训练数据策展、强化学习算法设计这三大 AI 子领域内同时做出超越人类专家水平的发现。具体而言，作者希望在三个层次上达成目标：(a) 系统层面——把"learn–design–experiment–analyze"闭环做成可复用的工程化框架，并对长周期、高代价的 AI 研究任务友好 (即 Ltask 三维同时拉满的场景)；(b) 能力层面——证明 AI 智能体可以同时在架构、数据、算法三根支柱上发现可量化、可复现的 SOTA 改进，而不仅在某一狭窄子任务上有效；(c) 范式层面——给出初步证据表明，AI-for-AI 的产物(例如被 ASI-Evolve 改造的 DrugBAN 架构) 可以走出 AI 栈，在生物医药等真实科学问题中产生实用价值，从而为"AI 自我加速"这一更大的科学假说提供可检验的工程化锚点。

与已有工作不同的是，已有工作或聚焦在定义良好的、反馈即时的任务上（GPQA、HLE、ML-Bench），或在单一、小尺度、轻量反馈的场景里做进化搜索（AlphaEvolve 改 Strassen 算法、FunSearch 挖掘组合数学、OpenEvolve 改 kernel）。它们的共同短板是：$C_\text{exec}$、$S_\text{space}$、$D_\text{feedback}$ 三维任务复杂度都偏低，无法应对 AI 开发中"单次实验耗 GPU 数十至上百小时、设计空间开放无界、反馈信号多维难以直接消化"的真实研究循环。ASI-EVOLVE 正是要填补这一三维同时拉满区域的空白，并把"人类先验注入"和"多维反馈蒸馏"两项机制以模块化方式引入进化循环。

核心方法

ASI-EVOLVE 把整个 AI 研究过程抽象为 learn–design–experiment–analyze 闭环，每一轮迭代包含 4 个模块：(1) Researcher 用 LLM 读取任务描述 + 采样得到的父节点 + 从认知库中检索到的先验知识，生成下一份候选程序 (p) 与动机说明；(2) Engineer 调起任务专属评估脚本，运行该程序并在超时前终止 (对 1,773 轮架构搜索而言每次评估消耗数小时 GPU)；(3) Analyzer 接收完整日志，把多维指标、训练动态、benchmark 拆解蒸馏成结构化、可读、可入库的分析报告；(4) 新节点 (动机、代码、结果、分析、分值) 写回数据库，认知库中浮现的新洞见也回写供后续检索。整条管道通过 UCB1 / MAP-Elites 等策略从数据库选父节点，从而在"利用高分节点"和"维护多样性"之间取得平衡。

与传统进化框架相比，ASI-EVOLVE 的本质区别是"进化的是认知本身，而非仅仅是候选解"。它把每轮实验产出的多维信号通过 LLM 蒸馏为人类可读的洞见，并把这些洞见结构化地回写到认知库 (Cognition Base) 与数据库 (Database)。下一次采样时，这些被压缩、抽象过的经验会和从人类论文中抽取的先验一起被注入 Researcher 的上下文。这样做的好处是：冷启动阶段，认知库中存放的 150 条关于线性注意力/SSM 的先验条目能直接把搜索导向有希望的方向；随着迭代推进，自有实验产生的洞见逐步成为新的"经验性先验"，在 1,773 轮架构实验中 51.7% 的设计源自认知库、38.2% 来自经验累积、10.1% 是新颖突变；在 105 个 SOTA 架构中经验来源上升到 44.8%，这表明系统在学习"在哪里搜索"而不仅仅是"搜索什么"。

方法步骤详情

完整一轮迭代的工程实现细节如下：(i) 采样父节点与认知条目 —— Researcher 从数据库中抽取 $n$ 个高质量节点，并对其 analysis/motivation 做嵌入检索，从认知库中取回 Top-5 最相关条目；(ii) 候选程序生成 —— 以 LLM 一次性给出完整代码 + 自然语言动机，或者在 diff 模式下对父程序做局部修改 (尤其适合大型代码库)；(iii) 工程执行 —— Engineer 触发任务专属评估函数 (架构任务中先经过静态检查 agent 验证复杂度与因果掩码，再走 debug agent 处理运行时错误，再做 novelty check 滤除重复)，并在 300s 超时或 quick test 失败时直接拒收；(iv) 评估打分 —— 采用任务相关 fitness：架构任务中 2000 步训练 + 10 个 benchmark 的 sigmoid 归一化分 + LLM-as-a-Judge 打分加权，RL 任务中直接用 benchmark 准确率 + Judge 打分的线性加和；(v) 分析蒸馏 —— Analyzer 接收完整日志，输出结构化报告并存入节点；(vi) 数据库更新 —— 节点按 UCB1 / MAP-Elites / Random / Greedy 策略参与后续采样。所有步骤都以可重启、可并行 (4 workers)、可观测的方式实现，关键参数如 5 个 islands、迁移间隔 10、迁移率 0.1、exploration ratio 0.2、exploitation ratio 0.6。

技术新颖性

论文的技术新颖性主要体现在三方面。第一，提出了 Ltask = ⟨Cexec, Sspace, Dfeedback⟩ 三维分析框架，对现有科学自动化系统做了清晰谱系划分 (Figure 1)，并指出"AI-for-AI 三大支柱"所处的高维区域是既有方法未曾攻克的盲点。第二，把"结构化认知库 + 专用 Analyzer"作为一等公民引入进化循环——前者把人类文献先验 (线性注意力 100 篇论文 ≈150 条 / 药物-靶点 80 篇) 编码为可检索向量条目，后者把多维实验输出压缩为可检索的洞见段落，使后续轮次能以可控上下文长度保持深度分析。第三，把"工程化护栏"作为高代价场景下的关键支撑：在架构搜索里引入了静态检查 agent、运行时 debug agent、novelty 检查 agent，使得 1,773 轮实验的失败成本可控，并支持 chunk-wise + 因果掩码这类硬约束的自动满足。这些机制组合在公开文献中未见先例。

ASI-EVOLVE pipeline: in each round, the system samples context nodes from database, retrieves relevant cognition items via embedding search, generates a new candidate program, runs an experiment-specific evaluation script under timeouts, and summarizes results into an analysis report that is stored back into the database for future rounds.
Figure 2: ASI-EVOLVE pipeline: in each round, the system samples context nodes from database, retrieves relevant cognition items via embedding search, generates a new candidate program, runs an experiment-specific evaluation script under timeouts, and summarizes results into an analysis report that is stored back into the database for future rounds.

实验结果

论文在三大 AI 子领域和一个跨域任务上各做了一组对照实验，核心结果如下。(1) 架构设计：1,773 轮探索后共生成 1,350 个候选，其中 105 个在 340M 验证阶段超越 DeltaNet；挑选 5 个代表性架构 (PathGate-FusionNet, Content-SharpRouter, FusionGated-FIRNet, Hier-GateNet, AdaMultiPathGateNet) 在 1.3B/100B tokens 上做大尺度验证，平均开发集准确率达 57.28% (DeltaNet 55.76%)，泛化集 45.40% (DeltaNet 44.74%)，最佳模型相对 DeltaNet +0.97 分，约为 Mamba2 人类改进 (+0.34) 的 3 倍。(2) 数据策展：基于 Nemotron-CC 改造得到 Nemotron-CCASI+ (504B tokens)，3B 模型 + 500B tokens 训练后在 18 个 benchmark 上平均 44.13 分，比原始数据 +3.96 分，比 DCLM 42.42 分、FineWeb-Edu 36.52 分、Ultra-FineWeb 36.29 分都高；其中 MMLU +18.64、CSQA +18.80、MedQA +13.48 分，知识密集型任务收益最大。(3) RL 算法：300 轮探索后得到 10 个在 4B 探索阶段超越 GRPO 的算法，扩展到 14B Qwen-3-base + Skywork-OR1 + 250 步训练后有 3 个在所有测试域稳定超越 GRPO；最佳算法在 AMC32 +12.5 (67.5→80.0)、AIME24 +11.67 (20.00→31.67)、OlympiadBench +5.04 (45.92→50.96)。(4) Circle Packing：仅用 17 轮就达到 SOTA 级 2.63597，与 LoongFlow、SkyDiscover 的 89 轮、AlphaEvolve 的未公开轮数相比显著领先。(5) 药物-靶点交互：100+ 轮改造 DrugBAN 后得到 ban_sinkhorn_ds_marginal_topk_v6，BindingDB-Dev 上 AUROC 从 94.15→96.06 (+1.91)，冷启动未见药物 +6.94 AUROC (79.15→86.09)、未见蛋白 +3.56、双冷 +4.36，泛化收益超过分布内收益。

Top block: 10 development benchmarks, used in our exploration stage; middle block: 6 generalization benchmarks for out-of-distribution testing. Bold indicates the best result and underline is the suboptimal one.
Table 1: Top block: 10 development benchmarks, used in our exploration stage; middle block: 6 generalization benchmarks for out-of-distribution testing. Bold indicates the best result and underline is the suboptimal one.
Benchmark comparison of models trained on different pretraining corpora and curation strategies. All models are 3B parameters trained on 500B tokens. Columns are grouped into Human baselines and ASI-Evolve discovered datasets.
Table 2: Benchmark comparison of models trained on different pretraining corpora and curation strategies. All models are 3B parameters trained on 500B tokens. Columns are grouped into Human baselines and ASI-Evolve discovered datasets.
Performance comparison of evolved RL algorithms and the GRPO baseline on mathematical reasoning benchmarks. All methods were trained on Qwen-3-14B-base within the SIIRL framework using the Skywork OR1 dataset and evaluated after 250 training steps.
Table 3: Performance comparison of evolved RL algorithms and the GRPO baseline on mathematical reasoning benchmarks. All methods were trained on Qwen-3-14B-base within the SIIRL framework using the Skywork OR1 dataset and evaluated after 250 training steps.
Circle packing comparison across evolutionary frameworks (26 circles in a 1 × 1 unit square; higher sum of radii is better). "Rounds" denotes the number of evolution steps to reach the reported best score; "—" indicates the value was not reported.
Table 4: Circle packing comparison across evolutionary frameworks (26 circles in a 1 × 1 unit square; higher sum of radii is better). "Rounds" denotes the number of evolution steps to reach the reported best score; "—" indicates the value was not reported.
Performance comparison on drug-target interaction prediction across multiple benchmarks. We report AUROC (%) and F1 (%) scores for key evaluation settings. Bold indicates best performance.
Table 5: Performance comparison on drug-target interaction prediction across multiple benchmarks. We report AUROC (%) and F1 (%) scores for key evaluation settings. Bold indicates best performance.
Cold-start performance comparison. We report AUROC (%) and F1 (%) scores. Models must predict interactions for unseen drugs, proteins, or both.
Table 6: Cold-start performance comparison. We report AUROC (%) and F1 (%) scores. Models must predict interactions for unseen drugs, proteins, or both.
Comparison experiments. (a) Evolution curves for ASI-Evolve, GEPA, and OpenEvolve. (b) Evolution curves for ASI-Evolve using GPT-5-mini and Qwen3-32B. Shaded regions indicate variability across repeated runs.
Figure 3: Comparison experiments. (a) Evolution curves for ASI-Evolve, GEPA, and OpenEvolve. (b) Evolution curves for ASI-Evolve using GPT-5-mini and Qwen3-32B. Shaded regions indicate variability across repeated runs.
Sampling algorithm comparison. Evolution curves for ASI-Evolve with MAP-Elites, UCB1, and Random sampling on Qwen3-32B.
Figure 4: Sampling algorithm comparison. Evolution curves for ASI-Evolve with MAP-Elites, UCB1, and Random sampling on Qwen3-32B.
Ablation on circle packing. Evolution curves for the full method and ablated variants.
Figure 5: Ablation on circle packing. Evolution curves for the full method and ablated variants.
查看结构化数据
任务指标本文基线提升
线性注意力架构大尺度验证 (1.3B params, 100B tokens) 开发集平均准确率 (%) 57.28 (Content-SharpRouter) 55.76 (DeltaNet) +1.52 (最佳 +0.97 相对 DeltaNet 整体平均差)
线性注意力架构 OOD 泛化 6 个泛化集平均准确率 (%) 45.40 (Content-SharpRouter) 44.74 (DeltaNet) +0.66
预训练数据策展 (3B/500B tokens) 18 个 benchmark 平均分 44.13 (Nemotron-CCASI+) 40.17 (Nemotron-CC 原始) / 42.42 (DCLM) +3.96 / +1.71
RL 算法 (14B Qwen-3-base, 250 步) AMC32 准确率 (%) 80.0 (Algorithm 1) 67.5 (GRPO) +12.5
RL 算法 (14B Qwen-3-base, 250 步) AIME24 准确率 (%) 31.67 (Algorithm 1) 20.00 (GRPO) +11.67
RL 算法 (14B Qwen-3-base, 250 步) OlympiadBench 准确率 (%) 50.96 (Algorithm 1) 45.92 (GRPO) +5.04
Circle Packing (26 圆) 半径和 (Sum of Radii) 2.63597 (17 轮) 2.6359 (AlphaEvolve, 轮数未报) 相当 / 收敛速度 ~5x 快于 OpenEvolve (460 轮 2.6343)
药物-靶点 (DrugBAN 改造) BindingDB-Dev AUROC (%) 96.06 94.15 (DrugBAN) +1.91
药物-靶点冷启动 未见药物 AUROC (%) 86.09 79.15 (DrugBAN) +6.94

局限与改进

作者在论文中明确承认的局限有：(a) 由于系统工作在 attention 机制的设计层而非 CUDA kernel 实现层，"LLM-as-a-Judge 惩罚计算复杂度"只是定性信号，无法保证生成架构在 wall-clock 时延上击败人工调优的 kernel；这意味着对实际部署而言，理论收益和工程落地之间仍需后续编译优化。(b) 静态检查 agent 只验证复杂度上界、chunk-wise 结构和因果掩码，对数值稳定性、显存峰值等指标的约束仍偏弱。(c) RL 算法发现的 5 个里只有 3 个在 14B 验证阶段稳定超 GRPO，剩余 2 个仅在 4B 探索阶段领先，说明进化发现的统计稳健性需要更大规模验证。我自己的额外观察是：(d) 整个框架对闭源代码/算力的依赖依然很高 (架构任务在 1.3B/100B tokens 上跑一次单候选验证就需要 10+ GPU 时)，这意味着 ASI-Evolve 的能力天花板很大程度上受制于底层 LLM 的代码生成与数学推理能力，论文未充分剥离"LLM 选型"与"框架设计"的独立贡献；(e) 数据策展和 RL 算法两个任务都仅在单一领域 (STEM 文本 / 数学推理) 验证，跨域迁移 (例如对代码类或多模态数据) 仍待研究。

独立分析的弱点

独立审视后，我认为论文有四个值得改进的方向。**第一，认知库的构建过于依赖人工整理**——架构任务中 150 条先验条目是从 100 篇论文人工提取的，这意味着系统启动成本随任务扩展线性增长；改进方向是引入自动论文解析器 (例如基于 structured output 的多模态抽取) 或者 LLM 自我摘要流水线，让人只做审核而非抽取。**第二，分析报告本身的可信度缺少量化评估**——Analyzer 的输出是 LLM 生成的，可能存在"看似合理但与真实失败原因脱节"的幻觉；改进方向是为 Analyzer 引入与 fitness 的因果一致性检验 (例如用反事实实验验证"移除某条建议后性能是否如期下降")。**第三，1,773 轮架构搜索中 38.2% 的设计来自经验累积、但只贡献了 6.6% 的 SOTA，提示经验回用的信噪比偏低**；可考虑在数据库中为每个节点附加"该节点的后代是否继续提升"的信用值，并据此加权采样。**第四，circle packing 与 drug-target 之外的领域未做充分基线对照**——尤其是与近期 ML-Master、SkyDiscover 等专用 AI-for-AI 系统的直接 benchmark 对齐未覆盖，建议补充。

未来方向

作者在结论中明确指出，AI 自我加速的范围应从"单个模型"扩展到"整个 AI 开发栈"，包括架构、数据、算法，以及尚未触及的基础设施 (例如编译器、调度器、推理引擎)。基于本论文成果，有几个具体可延伸的方向：(1) 把闭环迁移到多模态基础模型训练，例如自动设计视觉 Transformer 的 attention + 位置编码 + 视觉 token 化策略；(2) 把 ASI-Evolve 用于 AI 安全研究，自动生成对抗 prompt / 评测协议；(3) 把认知库升级为可写、可冲突合并的"研究记事本"，支持多 ASI-Evolve 实例之间的联邦知识共享；(4) 在 RL 算法设计上引入形式化验证 (例如用 Lean/Coq) 来检验 Analyzer 给出的数学推导是否成立，从"经验性收益"升级到"可证明的正确性"；(5) 把 17 轮达 SOTA 的经验提炼为"快速冷启动配方"并发布，让小团队也能复现。

复现评估

复现性是这篇论文的一个亮点。**代码与权重**：作者在 https://github.com/GAIR-NLP/ASI-Evolve 完全开源了框架与各任务的实验脚本。**数据**：架构任务使用公开的 DeltaNet 代码库作为基线 + 1B/100B tokens 训练语料 (附录未细化具体来源，但 1B/100B 规模表明采用了 FineWeb 级别公开数据)；数据策展任务用 Nemotron-CC (672B) 公开数据集；RL 算法任务用 Qwen-3-14B-base + Skywork-OR1 公开数据集；药物-靶点任务用 BindingDB / Human / BioSNAP / C.elegans 公开数据集。**算力门槛**：架构任务的 1.3B/100B tokens 大尺度验证需要在 16+ A100 节点上跑数十小时，RL 任务的 14B + 250 步同样需要 8+ A100/天；这对学术团队而言不轻，但完全开源后可用更小规模先复现 4B 探索阶段。**复现难度**：整体框架代码可独立运行，但复现论文中所有 5 大任务需要分别搭建架构训练 (含 FSDP/DeepSpeed)、大规模预训练、RL 后训练、分子建模四套栈，工程难度偏高。**潜在风险**：闭源代码生成式 LLM (GPT-5-mini, Claude 3.7 等) 的版本变化会带来不可复现的尾部差异，附录中明确报告了 temperature=0.7、top-p=0.95、max_tokens=32768 等超参，但仍无法完全消除。

论文图表

Representative scientific automation settings in the Ltask = ⟨Cexec, Sspace, Dfeedback⟩ space.
Figure 1: Representative scientific automation settings in the Ltask = ⟨Cexec, Sspace, Dfeedback⟩ space.

三维散点图把已有科学自动化系统沿执行成本 Cexec、搜索空间复杂度 Sspace、反馈复杂度 Dfeedback 三个轴摆放。从低到高依次聚集了 GPQA/HLE/FrontierScience 等科学问答系统、MLE-bench/SWE-bench/AI Scientist 等结构化任务、AlphaEvolve/OpenEvolve 等轻量科学发现，以及 ASI-Evolve 占据的高 Cexec+高 Sspace+高 Dfeedback 右上角空区域 (Arch Design、Data Curation、RL Algorithm、Drug-Target)。

这张图是论文的全局定位图，把 ASI-Evolve 与已有工作的能力差异直观化；理解它能立刻明白为什么"AI-for-AI 三件套"是高维任务复杂度区域的盲点。