基于自动诊断与技能发现的数值智能训练 Training Numerical Intelligence via Auto-Diagnosis and Skill Discovery
先诊断求解器为何失败，再从文献中发现可复用技能，让AI智能体系统性自我改进数值求解器
前置知识
数值求解器与残差
数值求解器是通过迭代算法求方程近似解的程序，如牛顿法解非线性方程组、隐式方法积分ODE。残差衡量近似解满足原方程的程度，例如潮流求解的目标是让功率失配的无穷范数 $\|F_{PF}(x;\xi)\|_\infty$ 足够小。残差小不直接等于解误差小，但它是求解器行为最直接的可观测信号。
全文的核心证据就是残差历史、迭代次数、矩阵分解次数等运行统计，诊断阶段的一切分析都建立在这些可观测量的基础上。
雅可比矩阵与病态性
雅可比矩阵 $J=\partial F/\partial x$ 刻画方程组对状态变量的局部敏感度，牛顿法每步需解线性系统 $J\Delta x=F$。当 $J$ 的最小奇异值 $\sigma_{\min}(J)$ 接近零或条件数 $\kappa(J)=\sigma_{\max}/\sigma_{\min}$ 很大时，系统病态，线性求解精度与牛顿步质量都会恶化。
论文的核心诊断假设之一就是 $\sigma_{\min}(J_{calc})\le 0.16$ 预示更多非线性迭代，不懂奇异值就无法理解这个探测器为何有效。
刚性ODE与隐式积分
刚性ODE指系统中同时存在快慢悬殊的时间尺度（常见于生化反应网络），显式方法的稳定性要求步长 $h$ 远小于最快时间尺度，导致计算量爆炸，必须改用隐式方法并配合自适应步长与误差控制。
ODE实验的难点正是刚性，理解刚性才能明白诊断-技能闭环为何能把通过率从70%提到90%以上。
LLM智能体与技能发现
LLM智能体能生成代码、调用工具并根据执行反馈迭代。Voyager式技能发现指把成功经验封装为可复用的可执行技能库（代码+使用说明），后续任务直接检索调用，全程不更新模型权重（gradient-free）。
ADSD的技能发现阶段继承了这一范式，但其独特之处是技能获取由诊断结果定向驱动而非盲目探索，对比理解两条路线很关键。
原始-对偶内点法
求解不等式约束优化的主流方法：用障碍参数把不等式吸收进拉格朗日函数，反复求解KKT线性系统，用fraction-to-boundary规则保持迭代点在内部。收敛判据需聚合原始可行、对偶可行、平稳性与互补性等一阶量。
AC-OPF案例中基线就是内点法，其失败根源（一阶量量纲不一导致停滞判据误判）只有理解内点法才能看懂。
研究动机
现有LLM科学智能体已能生成和修改数值代码，但生成代码不等于改进算法。数值求解器的失败模式很特殊：程序可以无报错运行、输出看似合理，却因病态性、刚性或重复矩阵分解而不必要地慢，或在困难算例上静默失败。执行反馈只能暴露"性能差"，无法回答"为什么差、怎么修"——同一症状（如收敛慢）可能来自完全不同的病因（雅可比病态、步长策略不当、分解代价过高）。更麻烦的是现有能力彼此割裂：执行反馈驱动的修改沦为试错式编辑，文献检索依赖宽泛关键词、与具体失败脱节。论文用消融实验量化了这一困境：直接让模型自行改进求解器，9组对比中5组误差不降反升；递归自我改进5轮后，GPT基线误差先恶化再部分恢复但始终高于初始水平，Claude几乎原地踏步。
本文的目标是构建一个无需更新模型权重的自动框架ADSD（Auto-Diagnosis and Skill Discovery），把求解器改进从试错编辑变成结构化流程。核心是显式分离三个经常被混淆的层次：(i) 可观测行为——残差历史、收敛日志等原始运行证据；(ii) 诊断知识——把症状与潜在数值条件联系起来并形成可检验假设；(iii) 可执行求解器知识——把诊断转化为实现正确、可直接集成的数值算法。整条流水线为：求解器行为 →(验证过的诊断)→ 数值条件 →(定向检索)→ 科学知识 →(实现)→ 可执行求解器技能。最终用同一模型、同一推理预算、同一提示词生成改进版求解器，并在潮流方程、AC最优潮流、刚性ODE、非均质扩散PDE四类基准上验证精度、鲁棒性与效率提升，以及技能能否迁移到未见网格拓扑和工况。
与已有工作不同的是，此前工作分两支，各缺一环。执行反馈一支（SciML Agents、AutoNumerics、CodePDE等）能根据报错和轨迹修改求解器，但没有把行为映射到数值病因的机制；文献转换一支（Paper2Agent、SkillFoundry、Voyager）能把论文变成可执行技能，却不知道该检索哪些方法。附录C的分析一针见血：Ipopt的行缩放技术几乎必然存在于前沿模型的训练数据中，但Qwen基线自始至终没想到用它，直到诊断把失败定位到"一阶量量纲不一致"才定向找到Wächter & Biegler 2006这篇经典文献。换言之，知识本身不是瓶颈，"哪个知识与当前失败相关"才是。ADSD的独特切入正是用可验证的诊断假设充当失败与技能获取之间的桥梁：GPT案例中诊断把312篇文献收敛到82篇候选、6篇精读，这就是诊断带来的检索信噪比。
核心方法
直觉上，ADSD像一位会看检验报告的医生：先给冻结的基线求解器 $N_0$ 做全套体检（在公开算例上运行并记录迭代次数、分解次数、残差轨迹），再依据文献知识设计检查项目（诊断技能），从体检数据提炼并验证病因（数值条件假设），最后按病因开药——检索对症方法、审核理论假设与 $N_0$ 的兼容性、复现实现并打包成技能，把 $N_0$ 和技能包一起交给全新智能体生成改进求解器 $B$。技术上分两大组件。自动诊断（算法1）：先用智能体固有能力生成 $N_0$ 并冻结（全程禁用现成求解器库），在公开算例记录行为；从预建文献库筛选论文、抽取带页码证据的诊断断言，按共享计算聚类成诊断探针；把观测随机分成诊断轮与验证池，每轮提出\"症状⇒条件\"假设并转成确定性探测器，在验证池通过率超90%的假设进入已验证集合。技能发现四步走：假设引导的论文筛选、理论断言审核（复核推导+检查假设兼容性）、候选实现与经验复现、技能打包（可执行代码+使用说明+断言档案）。
核心创新是\"诊断先行\"范式：把\"为什么表现差\"变成可检验、可证伪的统计命题，而不是交给模型自由发挥。每个诊断假设必须写成带明确判据的确定性探测器，如 $\sigma_{\min}(J_{calc}(x_i^{N_0};\xi_i))\le 0.16 \Rightarrow N_0$ 需要更多非线性迭代。值得注意的是阈值0.16并非抄自文献，而是智能体在200算例诊断轮中观察到 $\sigma_{\min}$ 的下四分位数约0.16008后自行提出（该阈值圈出的50个算例平均需5.78次迭代，其余仅5.01次），再用0.15/0.17做鲁棒性检查、最后在4000算例独立验证池确认后冻结。与已有方法的本质区别有三：与试错式自我改进不同，每次改进由已验证病因定向驱动，文献检索问题被收敛为\"哪些方法能在保持 $N_0$ 方程与误差目标下提高每次分解的非线性进展\"；与通用技能发现不同，技能必须先通过理论审计和经验复现双重门禁；全过程冻结 $N_0$、禁用现成求解器，保证改进确实来自智能体数值能力的提升而非外部工具。
方法步骤详情
以GPT基线在IEEE-118潮流任务为例走完整流程。第一步，生成并冻结 $N_0$：带解析雅可比、信赖域保护和正则化回退的稠密极坐标牛顿求解器，每次非线性迭代恰好对应一次雅可比组装加一次稠密分解。第二步，在5000个公开算例运行，记录迭代、分解、线性求解计数与残差历史。第三步，从312篇文献构建10个诊断技能，其中ac-jacobian-criticality把\"雅可比病态\"量化为返回状态处的最小奇异值；观测分成5轮×200算例加4000验证池。第四步，逐轮提出假设、转成确定性探测器、在验证池以超90%通过率入库。第五步，定向检索：312篇筛到82篇、精读6篇，最终multistep-factorization-reuse（外层更新只需1次组装+1次分解+3次三角求解）和七阶Method 9（两次分解换更高收敛阶）打包成技能。第六步，把 $N_0$ 与技能包交给同款模型的全新智能体生成 $B$。AC-OPF案例同理：由残差钉在 $\|\nabla f(x_0)\|_\infty=3718.9$ 附近的不变性提出\"KKT求解次数 $\le 27\Rightarrow$ 不收敛\"假设，再从Wächter & Biegler 2006学到行缩放与归一化KKT进度度量。
技术新颖性
新颖性有四。一是症状-条件的显式建模：以往智能体日志只记\"失败\"，ADSD要求每个\"病\"都有可复算的判定标准与页码级文献证据，把数值分析知识变成可执行的探测代码。二是假设的统计验证协议：诊断轮与验证池强制分离、探测器冻结后再上验证池、90%通过率门槛，借鉴了序贯证伪思想但专为数值症状设计。三是技能的\"理论+经验\"双重门禁：不是简单RAG——每条断言需记录公式、算法、假设的页码证据，理论审计复核推导并检查与 $N_0$ 的兼容性（如行缩放是正对角等价变换，保持可行集与argmin不变，乘子可精确映射回原坐标 $\tilde{y}=D^e y/d^f$），实现还需在算例上复现论文声称的效果才能冻结成包。四是干净的评测协议：训练/私有测试集划分、同提示词同预算生成 $B$，使提升只能归因于诊断与技能。表5的技能消融进一步证明技能按诊断意图分工生效：Multistep把每算例分解次数从5.116降到2.755、时间0.727s→0.494s而残差不变；Method 9把残差从 $9.10\times 10^{-10}$ 压到 $7.46\times 10^{-13}$。
实验结果
四个领域、三个基模型（GPT-5.5、Claude-Sonnet-5、Qwen3.8-2.4T）结果高度一致。潮流方程（表1）：GOC-500上Qwen误差 $1.0\times 10^{-9}\to 1.4\times 10^{-11}$（约71倍）且速度持平。拓扑泛化（图2a、表6）：仅用N2拓扑训练的技能零再训练迁移到N1与完整N网格，GOC-500上Qwen约55倍改善。可行性泛化（图2b、表7）：迁移到接近不可行的IF工况，提升收窄至约23%–83%但仍全面为正。AC-OPF（表2）：IEEE-57边缘算例上Qwen通过率从14.42%跃升至98.36%（+83.94个百分点），误差与时间同步改善。刚性ODE（表3，72族117模型）：GPT通过率70.1%→90.6%、中位误差约24倍降低且更快；Claude通过率达100%。扩散PDE（表4，ConDiff）：GPT时间7.29s→2.78s、算子调用215→71；Qwen $\ell_2$ 误差约18倍降低。消融（图3、图4）：单轮直接自我改进9组对比中5组误差反升，递归5轮仍无法逼近ADSD，证明收益来自诊断与技能而非额外修改机会。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| GOC-500潮流方程求解（Qwen3.8-2.4T） | 平均残差误差 | $1.4\times 10^{-11}$ | $1.0\times 10^{-9}$（$N_0$） | 约71倍误差降低，运行时间持平（0.18s） |
| IEEE-57 AC-OPF边缘算例（Qwen3.8-2.4T） | 通过率 | 98.36% | 14.42%（$N_0$） | +83.94个百分点，误差同时从 $2.7 imes 10^{-6}$ 降到 $1.2 imes 10^{-6}$ |
| 刚性ODE积分，72族117模型（GPT-5.5） | 通过率 / 中位轨迹误差 | 90.6% / $3.93\times 10^{-7}$ | 70.1% / $9.39\times 10^{-6}$（$N_0$） | 通过率+20.5个百分点，误差约24倍降低，时间4.713s→3.451s |
| 刚性ODE积分（Claude-Sonnet-5） | 通过率 | 100.0% | 94.0%（$N_0$） | 全部通过，误差 $4.43 imes 10^{-7} o 5.04 imes 10^{-8}$ |
| ConDiff 128×128扩散PDE（GPT-5.5） | 运行时间 / 算子调用 | 2.78s / 71.22次 | 7.29s / 215.49次（$N_0$） | 时间约2.6倍加速，$\ell_2$ 误差同步从 $1.69 imes 10^{-9}$ 降至 $5.27 imes 10^{-10}$ |
| ConDiff扩散PDE（Qwen3.8-2.4T） | $\ell_2$ 误差 | $3.55\times 10^{-10}$ | $6.49\times 10^{-9}$（$N_0$） | 约18倍，算子调用86.81→17.57 |
| IEEE-118潮流拓扑泛化 N2→N1（GPT-5.5） | 平均误差 | $2.1\times 10^{-10}$ | $7.6\times 10^{-10}$（$N_0$） | 约2.6倍，技能跨拓扑零再训练迁移 |
| GOC-500潮流拓扑泛化 N2→N1（Qwen3.8-2.4T） | 平均误差 | $1.5\times 10^{-11}$ | $8.2\times 10^{-10}$（$N_0$） | 约55倍 |
局限与改进
作者承认的局限：其一，可行性泛化的提升空间天然受限——接近不可行算例位于电压稳定边界，约束本身必须满足，故IF上的改善幅度普遍小于拓扑泛化；其二，递归自我改进实验只下了"在评估预算内"的结论，未排除更多轮次最终收敛的可能；其三，报告的都是隐藏验证集结果，但结论无偏性依赖基准本身的划分质量。我的补充观察：第一，潮流任务误差绝对值本来就极小（$10^{-9}$ 量级残差），"71倍"的感知冲击大于部分场景的实用价值（尽管附录C论证了残差对灵敏度计算和动态仿真初始化的意义），真正硬核的收益是AC-OPF通过率+84个百分点这类指标；第二，四个领域都需要预先人工构建领域文献库（Google Scholar + Semantic Scholar按人工关键词爬取312/376篇），这笔知识基建成本被轻描淡写；第三，电力案例用稠密分解，500节点可行，但真实电网是十万节点级稀疏问题，技能可扩展性未验证；第四，90%验证门槛、诊断轮规模等关键超参没有消融；第五，个别设置效率反而下降，如GOC-500拓扑泛化时ADSD时间从0.38s升至0.62s。
独立分析的弱点
弱点一：文献库构建是领域定制的手工活——靠\"Newton power flow convergence\"这类人工关键词爬取，换个数值领域就要重来，且筛选质量决定上限。改进方向：让诊断假设自动生成检索查询并增量扩充文献库，或接入全文检索API形成开放世界技能发现。弱点二：探测器阈值（如0.16）从单一诊断轮的下四分位数推断，虽有0.15/0.17鲁棒性检查和4000算例验证，但公开算例与部署分布偏移时可能失效。改进方向：把阈值估计改成带置信区间的统计程序，或让探测器输出连续病态分数而非二值判定。弱点三：90%通过率一刀切，接近但未达标的假设被直接丢弃，浪费\"部分正确\"的证据。改进方向：按通过率分层保留弱假设并标注证据强度。弱点四：改进停留在上下文层（技能包+提示），权重未变，每次部署都要重走流水线。改进方向：作者自己也指出，可把ADSD当自监督数据引擎，用诊断-技能轨迹做拒绝采样微调或蒸馏，替代昂贵的在线RL。弱点五：潮流误差以残差为主而非真解电压误差，残差小不严格等于解误差小。改进方向：补充解误差与下游任务指标（如安全裕度评估精度）。
未来方向
作者明确提出的方向：把ADSD扩展成自监督流水线，替代GPU密集的在线RL训练——用诊断与技能轨迹作为训练信号提升模型的数学推理与工具使用能力；以及研究如何与对比信号结合做语言模型对齐。基于本文成果可延伸的：一是跨域技能库与技能组合——分解复用、行缩放、预条件本质上是通用数值知识，可研究技能跨域复用与组合的涌现能力；二是接入稀疏迭代法与专业库（PETSc、Ipopt级别），把技能发现推向工程规模（十万节点电网、三维PDE）；三是扩展诊断覆盖的病因类型——目前案例集中在收敛性与计算代价，可拓展到数值稳定性、舍入误差累积、连续化/同伦方法处理近不可行潮流；四是技能生命周期管理：当电网升级或基准换代时自动检测技能过时并修订；五是把验证池机制推广为持续在线验证，防范技能在分布漂移下静默失效，这对安全攸关的电力系统尤为重要。
复现评估
复现难度中等偏上，门槛主要在模型与文献库。基准全部公开：PF∆（NeurIPS 2025）、OPFData、Städter et al. 2021系统生物ODE集、ConDiff，数据规模与划分交代得很细（如IEEE-118为5000公开+10000隐藏验证，ConDiff为12000训练+2400评估、每算例3次独立重复）。但GPT-5.5与Claude-Sonnet-5是闭源模型，API成本不低；Qwen3.8-2.4T开源但需可观推理资源。流水线本身是智能体编排（冻结求解器、诊断轮、验证池、技能打包），无需训练GPU，算力瓶颈在API调用。文献库构建流程有描述（Google Scholar + Semantic Scholar、领域关键词、312/376篇）但未提供论文清单或现成库。论文为预印本Under review状态，正文未提及开源代码；附录给出了两个案例的技能数学细节（含公式与代码片段）和算法1完整伪代码，核心思想可照此重建，但提示词模板、脚手架与全部诊断技能未公开。熟悉数值分析与智能体开发的小团队数周内可复现核心方法，精确复现表格数字则较难。
论文图表
AC-OPF边缘算例结果：平均相对目标误差、运行时间与通过率。Qwen通过率从14.42%跃升至98.36%（+83.94个百分点），误差与时间同时改善；GPT与Claude亦有稳定提升。
展示了ADSD在"优化+约束"这类更难问题上质的飞跃——通过率接近翻七倍，是实用性最直观的证据。