智能体融合大原子模型与大语言模型加速超导材料发现 Agentic Fusion of Large Atomic and Language Models to Accelerate Superconductors Discovery
用LLM编排Elements系列原子模型工具，4阶段流水线从240万晶体筛出6.8万候选并合成4种新超导。
前置知识
Large Atomic Model (LAM) / 大原子模型
参数量在百万到数十亿规模的神经网络，直接以原子结构（原子序数+3D坐标+晶格矩阵）作为输入与输出，可用于势能面拟合、性质预测与结构生成。与传统 MLIP（机器学习原子间势）相比，LAM 通常在亿级结构上预训练，具备跨分子/晶体、跨平衡/非平衡态的「全能域」通用表征能力。
本文核心贡献 Elements 即为 10 亿参数 LAM；它同时承担 Tc 预测、分类、稳定性评估和生成四种角色，是整个 ElementsClaw 智能体的「物理引擎」，不理解 LAM 就无法理解为何可以把多种材料任务统一到一个骨干网络里。
Equivariant Neural Network / 等变神经网络
对输入 3D 旋转、平移、反射具有数学上严格等变性质的图神经网络，常用球谐函数 $Y_l^m$ 作为 steerable 特征基。代表工作如 EquiformerV2、eSCN，通过 SO(2) 线性层与深度方向张量积实现 $SO(3)$ 等变。本文的 Elements 即基于 EquiformerV2 改造而来。
原子势能与力是 E(3) 几何等变量，等变架构是 LAM 能学到物理一致势能面的关键，也是为什么 Elements 能同时胜任分子、晶体、稳定与非平衡结构的原因。
Critical Temperature $T_c$ / 超导临界温度
材料从正常态进入超导态的温度，单位为 K。McMillan–Allen–Dynes 公式 $T_c \approx \frac{\omega_{\log}}{1.2}\exp\left[-\frac{1.04(1+\lambda)}{\lambda - \mu^*(1+0.62\lambda)}\right]$ 给出基于电声耦合常数 $\lambda$、对数平均声子频率 $\omega_{\log}$ 和库仑赝势 $\mu^*$ 的传统 BCS 估算。
$T_c$ 是本文主要预测目标，Elements-T 不仅直接回归 $T_c$，还联合预测 $\lambda$ 与 $\omega_{\log}$ 以保证物理一致性；理解 $T_c$ 的物理来源有助于理解为何要使用 multi-objective 训练。
Energy above hull $E_{hull}$ / 凸包上方能量
在同一化学体系中，目标相的形成能 $E_{form}$ 与由所有已知稳定相组成的成分-能量凸包之间的垂直距离，单位为 eV/atom。$E_{hull}=0$ 表示相位于凸包上、热力学稳定；$E_{hull}>0$ 越大代表越易分解为竞争相。
Elements-E 使用阈值 $E_{form}<0.0\,\text{eV/atom}$ 且 $E_{hull}<0.05\,\text{eV/atom}$ 作为稳定性筛选条件，直接决定候选材料能否进入实验合成环节。
LLM Agent / 大语言模型智能体
以大语言模型（本文使用 GPT-5 / Opus-4.6）作为「中央推理核心」，通过 prompt、function call、检索增强（RAG）等机制自主规划并调用一组外部工具完成任务的工作流范式。代表框架如 OpenClaw、AutoGPT、AI Scientist。
ElementsClaw 实质上是一个领域定制的 LLM 智能体：它调用 pymatgen 做结构标准化、用 GPT-5 阅读文献做语义判断、用 Elements 系列 LAM 做数值计算。理解 agent 范式才能理解为什么作者强调「orchestration」和「self-evolution」。
研究动机
AI-for-materials 已经从纯预测范式（如 GNoME 暴力评估稳定性）走向生成范式（如 MatterGen 逆向设计晶体），现存系统可以一次性提出上百万候选，但如何决定「哪一个值得送去做实验」仍是核心瓶颈。这个决策问题本质上要融合两类判据：一是原子尺度的数值计算（结构生成、$T_c$ 预测、$E_{hull}$ 评估），二是高层的语义推理（文献中的实验证据、新颖性、可合成性、毒性）。两类判据分属不同模型栈，传统 pipeline 要么纯靠 DFT 算（动辄每结构数小时）、要么依赖人工检索文献（吞吐量极低）。超导领域尤其困难：化学复杂度高、化学键多样（金属间、A15、Kagome 格子等）、且 SuperCon3D 等结构化数据库只覆盖约 2,000 种有序晶体，几十年的实验积累仍远未填满化学空间。结果是大量文献报道过的超导体（如 Zr$_2$Ir、CaSi$_2$ 等）从未被纳入标准数据库，许多潜在超导相被遗漏；新兴的「AI Scientist」通用智能体又缺乏材料发现所需的数值保真度，难以直接落地。
本文的目标是本文的具体目标是把 AI 材料发现从「孤立模型预测」升级为「可自主编排的工具链闭环」：构建一个名为 ElementsClaw 的智能体框架，用 LLM 做高层语义推理，用一组基于自研 10 亿参数 LAM Elements 微调而来的 LAM 工具（Elements-T/C/E/G）做原子尺度数值计算，串联成一个四阶段流水线，并在超导材料这一对极端化学复杂度敏感的领域完成端到端验证。最终量化目标包括：在 SuperCon3D 之外发现 ≥50 个文献已验证的超导相；从 240 万个平衡相晶体中在 28 GPU·h 内筛出 ≥6 万高置信候选；并由实验合成验证至少 4 种全新超导体，把最高 $T_c$ 推到 6 K 量级。
与已有工作不同的是，本文的独特切入角度是「知识集成 + 自主编排 + 实验闭环」三合一：在算法侧，把 LLM 与 LAM 用 function call 紧耦合，让 LLM 既能做文献挖掘与可信度判断，又能在蒸馏出新数据后主动调用 finetune 流程把 Elements 微调成新的专用工具（如 Elements-C），实现「自演化」；在生态侧，预训练数据 MCDB 覆盖 1.25 亿结构、跨分子/晶体跨平衡/非平衡的 omni-domain 设计，使单一骨干可同时支持 22 个下游任务；在验证侧，所有候选最终都要走完 arc-melting 合成、PXRD Rietveld 精修、AC 磁化率测量的实验闭环，并刻意合成一个 $E_{hull}>0.1$ eV/atom 的负对照样 HfZrRe 来证伪稳定性预测。这条路线在已有 GNoME/MatterGen/A-Lab 等工作中都没有完整实现。
核心方法
ElementsClaw 的整体思路可以分两层理解。直觉上，它模拟一位资深材料学家的工作流：先用粗筛工具从结构数据库里圈出可疑的「高温超导」候选，再去翻文献看是否真的被实验报过超导；文献确认后把正负样本喂给模型做微调，得到一个更精确的判别器；接着用判别器在未验证样本中挖掘有潜力的三元体系（如 Hf–Zr–Re）；最后让生成模型在这些体系内枚举新结构，并要求同时满足热力学稳定 ($E_{hull}<0.05$)、$T_c>4$ K、分类器置信 >0.5 这三个条件，才送去做实验。技术实现上，它把「数字引擎」由 10 亿参数 LAM Elements 承担，「推理核心」由 GPT-5/Opus-4.6 承担，二者通过 OpenClaw 框架以 function call 方式交互。Elements 在预训练阶段用 MCDB 的 1.25 亿结构同时做坐标/晶格去噪（对平衡结构）与能量+原子力回归（对非平衡结构）的多任务学习，得到对完整势能面的统一表征；下游再衍生出四个专用工具：Elements-T 联合预测 $T_c$、bandgap、Seebeck 系数、电导/热导、$\lambda$ 与 $\omega_{\log}$；Elements-C 是二元分类器；Elements-E 预测 $E_{form}$ 与 $E_{hull}$；Elements-G 沿 DiffCSP 框架做晶体结构扩散生成。整条流水线由 LLM 在 prompt 工程引导下自适应编排，可在不同阶段动态添加新工具。
核心创新点是和已有材料 AI 方法的本质区别在于「agentic fusion」。GNoME、MatterGen、DiffCSP 等都是单点工具，输出大量候选后没有「过滤—反思—再学习」的闭环；A-Lab 等实验室自动化平台专注于下游合成而非上游决策。ElementsClaw 同时具备三项独有特性：(1) 全域原子预训练——同一骨干在分子、晶体、稳定/非平衡相上联合训练，跨域共享 1B 参数表征，避免 22 个任务各训一模型；(2) 自演化工具创建——LLM 从文献蒸馏出 158 正 /385 负样本后，ElementsClaw 能主动调用 finetune 把 Elements 变成 Elements-C 二分类器，新增 AUC=0.996 的判别能力；(3) 文献-数值融合推理——LLM 阅读单篇文献提取 (is_supercond, $T_c$, 可合成性, 毒性, 结构匹配) 七元组，再跨多篇论文综合判断，把分散在 arXiv/期刊里的实验知识显式转化为训练标签，最终找回 66 个被 SuperCon3D 遗漏的超导体。
方法步骤详情
方法分为预训练和下游微调/智能体编排两大块。预训练阶段先构建 MCDB：1.255 亿配置，其中 85.1% (1.066 亿) 晶体 + 14.9% (1.866 千万) 分子；平衡子集（仅结构）约 990 万，非平衡子集（带能量+力标签）约 1.153 亿。模型用 EquiformerV2 改造的 Elements 骨干：12 层等变消息传递 + 深度方向张量积 + SO(2) 线性 + $S^2$ 网格激活（分辨率 $R=2$ 而非常规 18，节省 30% 显存并提速 20%），并引入 Long-Range Residual Connection 把初始原子特征注入最后两层以保留元素身份。预训练目标为多任务：对平衡输入，模型预测加在坐标与晶格上的合成噪声；对非平衡输入，模型同时回归总能量与原子力。微调阶段，Elements-T 用 JARVIS-DFT、DFT-Tc、DFT-EPC 三个子集共约 1 万条结构以 masked 多任务联合训练（$T_c$ MAE=0.992 K，$R^2=0.816$）；Elements-C 用 BCE 损失在 64 batch 训练 20 epoch 做二分类；Elements-E 在 MPtrj + sAlex 上预测 $E_{form}$ 并用 pymatgen 构建凸包计算 $E_{hull}$；Elements-G 沿 DiffCSP 替换 backbone 为 Elements，采用 prior-informed 扩散在笛卡尔坐标空间直接去噪。智能体编排阶段由四阶段流水线组成——Stage 1 用 Elements-T（阈值 $T_c>4$ K）把 72k MPDS+Kagome 结构筛到 1,524，再用 GPT-5 阅读文献并按 7 元组 prompt 评估，分出 158 已验证超导、385 已验证非超导、981 未验证；Stage 2 把正负样本拿去 finetune Elements 得到 Elements-C；Stage 3 用 Elements-C 对 981 未验证样本做二分类 + matminer ElementProperty 指纹 + t-SNE 可视化，按元素丰度锁定 Hf–Zr–Re、Zr–V–Re 三元系；Stage 4 在该三元系激活 Elements-G 沿 $Hf_aZr_bRe_c$ ($a+b+c=12$) 网格生成新结构，再过 Elements-E + Elements-T/C 筛选后输出候选列表。
技术新颖性
技术新颖性体现在四个方面。一是 omni-domain 原子预训练的规模与覆盖：1B 参数 + 1.25 亿结构 + 跨分子/晶体/平衡/非平衡的设计显著超越 MatterGen、DiffCSP 等单域生成模型，使同一骨干在 22 个下游任务上同时达到 SOTA 或 runner-up，其中 HOMO/LUMO MAE 比 GotenNet 降低约 30%，MPTS-52 晶体生成 match rate 比原 DiffCSP 翻倍。二是 $S^2$ 网格激活分辨率的「反直觉」压缩：把球面网格从 $R=18$ (324 点) 压到 $R=2$ (4 点) 反而小幅提升精度并显著加速，提示 $S^2$ 路径的正则化价值高于其拟合能力。三是 LLM 与 LAM 的双向耦合：与仅把 LLM 当作文本生成器或仅把 LAM 当作黑盒 API 的现有 AI Scientist 系统不同，ElementsClaw 把 LLM 蒸馏的实验标签直接喂给 finetune，让工具随经验「自演化」。四是负对照实验设计：刻意合成 $E_{hull}>0.1$ eV/atom 的 HfZrRe 验证稳定性预测的可靠性，并把仅微弱抗磁（屏蔽分数 ≈0.3%）的 Zr$_2$VRe$_3$ 失败归因于磁性 V 原子的对破解效应，反向暴露模型训练数据的局限。
实验结果
核心发现可分为四块。(1) 基础模型 Elements 在 22 个下游任务上全面超越或匹配 SOTA：在 QM9 上 HOMO、LUMO 预测 MAE 比 GotenNet 降低约 30%；在 Matbench 上 MP_is_metal 与 MP_gap 任务取得 SOTA，Perovskites 与 Dielectric 取得 runner-up；在 DPA-2 能量与原子力预测的 14 类系统上均达到最高精度；在 MP-20 与 MPTS-52 晶体生成上 match rate 与 RMSE 同时为最优，MPTS-52 上的 match rate 较原 DiffCSP 翻倍以上。(2) 超导专用工具 Elements-T 在 DFT 数据集上 $T_c$ 回归 MAE=0.992 K、$R^2=0.816$，优于 McMillan–Allen–Dynes 公式给出的 M.A.D. $T_c$，且 1B 参数微调版本显著优于无预训练的 28M/1B 对照，证明大规模预训练对捕获复杂原子相互作用的必要性；UMAP 嵌入显示高 $T_c$ 晶体在特征空间中形成清晰聚类，cubic 晶系预测最准，triclinic/monoclinic/orthorhombic 误差略大。(3) 文献-数值融合筛选取得双重突破：72k 结构经 Elements-T 粗筛剩 1,524，再经 GPT-5 文献阅读得到 158 正 /385 负 /981 未验证；其中 158 个已验证超导相里有 66 个（41.8%）未出现在 SuperCon3D 中，部分实验 $T_c$ 高于 10 K，说明标准数据库遗漏严重；Elements-T 在已验证样本上的精度随预测 $T_c$ 单调上升，从 $T_c<5$ K 区间的 15.9% 跃升至 $T_c>15$ K 区间的 72.4%。(4) 端到端实验验证四大新超导：Zr$_3$ScRe$_8$（motif-guided，$T_c$=6.5 K，磁化率确认）；HfZrRe$_4$（de novo generated，$T_c^{onset}$=6.7 K、$T_c^{zero}$=6.1 K、磁化率 onset≈5.9 K）；Zr$_4$VRe$_7$（结构再解释，从 GNoME 标注的 orthorhombic 修正为 $P6/mmm$ hexagonal，$T_c$=3.5 K，屏蔽分数 >70%）；Hf$_{21}$Re$_{25}$（database-latent，$T_c^{onset}$=3.0 K、$T_c^{zero}$=2.0 K，磁化率确认），加上负对照 HfZrRe 因 $E_{hull}>0.1$ eV/atom 出现明显相分离。最终在 2.4 M 平衡晶体上联合 Elements-T 与 Elements-C 跑出 68,000 高置信候选，仅耗 28 H20 GPU·h，相比 SuperCon 几十年积累的 2k 有序晶体扩张数量级。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| QM9 分子 HOMO 预测 | MAE | Elements 微调（SOTA） | GotenNet | 约 30% 误差下降 |
| QM9 分子 LUMO 预测 | MAE | Elements 微调（SOTA） | GotenNet | 约 30% 误差下降 |
| Matbench MP_is_metal 分类 | MAE | Elements 微调（SOTA） | 前 SOTA 方法 | 取得 SOTA |
| Matbench MP_gap 回归 | MAE | Elements 微调（SOTA） | 前 SOTA 方法 | 取得 SOTA |
| Matbench Perovskites 分类 | MAE | Elements 微调（runner-up） | 前 SOTA 方法 | 取得 runner-up |
| Matbench Dielectric 回归 | MAE | Elements 微调（runner-up） | 前 SOTA 方法 | 取得 runner-up |
| DPA-2 能量预测（14 类系统） | RMSE | Elements 微调（最高精度） | 多种 baseline | 全面领先，尤其在 Ag∪Au-PBE、Cluster-P 等难例上 |
| DPA-2 原子力预测（14 类系统） | RMSE | Elements 微调（最高精度） | 多种 baseline | 所有类别一致最高 |
| MP-20 晶体结构生成 | Match Rate / RMSE | Elements-G（最优） | 原 DiffCSP | Match Rate 与 RMSE 同时最优 |
| MPTS-52 晶体结构生成 | Match Rate | Elements-G（最优） | 原 DiffCSP | Match Rate 翻倍以上 |
| DFT 超导 $T_c$ 回归 | MAE / R² | MAE=0.992 K, R²=0.816 | M.A.D. Tc (Allen-Dynes 公式) | MAE 显著优于 McMillan–Allen–Dynes 估算 |
| Elements-C 文献验证集分类 | AUC | 0.996 | 随机猜测 AUC=0.5 | 接近完美判别 |
| SuperCon3D 遗漏超导体重发现 | 绝对数量 | 66 个被 SuperCon3D 遗漏但文献已证 | 158 个文献已验证总集 | 41.8% 的正样本属于数据库增量 |
| HfZrRe$_4$ 实验 $T_c$ | K | onset=6.7 K / zero=6.1 K / 磁化率 onset≈5.9 K | Elements-T 预测 12.9 K | 首次实验合成并验证 |
| Zr$_3$ScRe$_8$ 实验 $T_c$ | K | 磁化率 onset≈6.5 K / onset=6.8 K / zero=6.0 K | Elements-T 预测 >9 K | 首次实验合成并验证 |
| Zr$_4$VRe$_7$ 实验 $T_c$ | K | 磁化率 onset≈3.5 K，屏蔽分数 >70% | GNoME 数据库结构（orthorhombic，无 $T_c$） | 重新指认 $P6/mmm$ 结构并合成 |
| Hf$_{21}$Re$_{25}$ 实验 $T_c$ | K | onset=3.0 K / zero=2.0 K / 磁化率确认 | Elements-T 预测 6.9 K | 首次实验验证 |
| HfZrRe（负对照） | 合成结果 | 明显相分离，未成单相 | Elements-E 预测 $E_{hull}>0.1$ eV/atom | 与热力学稳定性预测一致 |
| Zr$_2$VRe$_3$（负样本） | 屏蔽分数 | ≈0.3% 弱抗磁 | Elements-T 预测高 $T_c$ | 暴露磁性 V 对破解效应未被 DFT 数据捕获 |
局限与改进
作者在讨论部分坦承三点局限。第一，训练数据来自标准 DFT，对强关联非传统超导体（铜氧化物、铁基）天然失真，Hf–Zr–Re 和 Zr–V–Re 中也未能预测磁性 V 引入的对破解效应（Zr$_2$VRe$_3$ 屏蔽分数仅 0.3%）。第二，LLM 文献抽取仍存在幻觉与语料偏倚：GPT-5.4 在三次独立抽取中分别漏掉 15/14/13 个正样本（准确率 143/158、144/158、145/158），需要 union + Opus-4.6 二次复审才能提升到 154/158；漏报主因是 primitive cell vs conventional cell 空间推理错误（如 BW、Zr$_2$Ir、CaSi$_2$），以及漏读正文 Table（如 V$_3$Pb）。第三，合成筛选假设常压条件，把高压氢化物等极端相排除在外。我自己的额外观察包括：(i) Tc 回归 MAE=0.992 K 看似优秀，但高 $T_c$ 区（>10 K）MAE 必然更大，与 Fig. 4 散点图所示高 $T_c$ 区域点云扩散吻合，对工程上最关心的「室温超导」区段可外推性存疑；(ii) 文献挖掘严重依赖英文文献，遗漏非英语出版物（如大量中文超导文献）的概率很高；(iii) 66 个被 SuperCon3D 遗漏的超导体虽然听起来显著，但 41.8% 这个比例来自 Elements-T 粗筛后 GPT-5 阅读得到的 158 个，本身已经过 $T_c>4$ K 的强先验选择；(iv) 负对照仅做了 HfZrRe 一例，「假阳性率」统计并不充分，HfZrRe$_4$ 预测 12.9 K 实测 5.9 K 的 2 倍以上偏差说明即使是高置信候选，预测 $T_c$ 与实测仍有显著系统性差距。
独立分析的弱点
独立分析的弱点主要在四个具体场景。弱点一，单一 backbone 难兼顾多任务：Elements-T 联合预测 bandgap、Seebeck、$\lambda$、$\omega_{\log}$、$T_c$ 五类性质，对铜氧化物/铁基等非常规超导，$\lambda$ 与 $\omega_{\log}$ 已不足以描述机制，但模型仍把 $T_c$ 当作 $\lambda$/$\omega_{\log}$ 的函数去拟合，导致对 Zr$_2$VRe$_3$ 这种磁性 V 体系完全失效；改进方向是引入配对对称性、自旋涨落等非常规描述符作为辅助头。弱点二，文献-数值耦合只走「单向往返」（LLM→finetune），缺少反馈闭环：当 LLM 抽取错误时（如把 MgB$_2$ 的 39 K 误归属给对比材料），错误标签会污染 Elements-C 训练集；改进方向是引入主动学习循环，让 DFT 或实验结果反查 LLM 抽取的可靠性并自动修正 prompt。弱点三，扩散生成依赖固定 token 数与笛卡尔坐标，对于 100+ 原子的超胞或非整数配比候选仍易生成不合理结构；改进方向是引入 space-group-aware 或 Wyckoff-constrained 生成。弱点四，凸包计算对训练集以外的体系不可靠，例如 HfZrRe 在训练数据中的凸包信息可能不完整，导致 $E_{hull}$ 估算的物理边界含糊；改进方向是把 $E_{hull}$ 改为端到端预测 + 不确定性估计（如 deep ensemble），并在不确定区间自动调用 DFT 局部精修。
未来方向
作者明确提出的方向是把智能体范式推广到固态电池电解质、异相催化、热电材料等其他材料类，因为 ElementsClaw 的「自演化工具创建」机制原则上可在任意领域重演。基于实验结果我认为可延伸的方向至少包括四点。(1) 把高压模块纳入 Elements-E：当前排除 $>5$ GPa 合成，可以为 Elements-E 引入 On-Hull Pressure 项，把 H$_3$S、LaH$_{10}$ 等氢化物重新纳入搜索；(2) 引入 LLM-to-LAM 反向蒸馏：用 LLM 从文献抽取更多物理约束（如「必须 Kagome 格子」），把这些约束当作 conditional token 注入 Elements-G 的扩散过程，进一步压缩 6.8 万候选到几百个高纯度候选；(3) 与 A-Lab 类自驱动实验室硬件集成，实现从 LLM 决策到机器人合成表征的全闭环，作者在引言中已点出这是下一步必然趋势；(4) 将 LAM 推广到 10B+ 参数并融合 in-context learning，配合 Few-Shot Prompt 让智能体在新材料类只需几十个正样本就能自演化出新工具，缓解当前对 158/385 正负样本量的依赖。
复现评估
复现评估整体中等偏上。代码与模型权重方面，作者在论文摘要脚注链接给出官方页面 https://developer.damo-academy.com/material，可下载完整 6.8 万筛后超导体数据集，但 Elements 权重与 ElementsClaw 完整 pipeline 未公开；论文篇幅超过 50 页含丰富补充材料，对 MCDB 数据来源（OMAT-24、ANI-1x、Transition-1x、GNoME、NOMAD、Alexandria、OQMD、MPF、JARVIS-QETB）、架构超参、训练策略均有详述。数据规模方面，1.25 亿结构预训练 + 1 万条 DFT 数据微调 + 72k MPDS/Kagome 文献挖掘属于中等量级，单卡复现 LAM 不现实但下游工具微调可在 8×H100 量级完成。算力方面，作者明确报告最终 2.4M → 68k 筛选仅耗 28 H20 GPU·h，但未披露预训练总机时；按 1B 参数规模估算，预训练需数百到上千 GPU·day，自有资源的研究组难以独立复现。复现难度主要来自两点：(i) GPT-5/Opus-4.6 的 LLM 文献挖掘结果依赖商业 API 与 prompt 工程，第三方替换为开源 LLM（如 Qwen、Llama）后能否达到 154/158 的准确率尚未验证；(ii) MCDB 中的 OMAT-24、sAlex 等数据集需要去重、力场过滤、Ehull 过滤等多步预处理，pipeline 容错性尚未公布。建议感兴趣的复现者先从下游 Elements-T 与 Elements-G 微调入手，先重现 Fig. 3/4 的基准结果再考虑端到端智能体搭建。
论文图表