超越静态工具：面向科学推理的测试时工具演化

提出测试时工具演化范式，让智能体在推理过程中动态合成、验证和演化可执行工具，突破静态工具库的根本限制

前置知识

大语言模型工具增强（Tool-Augmented LLMs）

将外部工具（如计算器、API、代码执行器）与大语言模型结合，弥补LLM在精确计算和结构化推理方面的不足。典型范式如ReAct将推理链与工具调用交错进行，Toolformer通过自监督微调让模型学会何时调用工具。这些方法的核心假设是工具库在推理前已经准备好，模型的任务是从中选择合适的工具。

本文正是要打破这种'先准备工具、再选择工具'的静态范式，理解传统工具增强方法的工作方式是理解本文贡献的前提。

原子工具分解与组合（Atomic Tool Decomposition）

将复杂的计算工具拆分为最小可复用的原子函数。例如一个摩尔质量计算器可以拆分为：单位转换函数、理想气体定律求解器、质量-摩尔关系计算器。这种分解使得未来查询只需部分子功能时也能复用原子组件，避免了单体工具只能整体调用的刚性问题。

原子分解是TTE框架的核心机制之一，直接决定了工具库的复用效率。论文的理论分析（Theorem 1）严格证明了分解后的原子工具库在期望复用率上优于单体工具。

工具复用率（Tool Reuse Rate, TRR@k）

本文提出的评估指标，定义为在工具库中被成功复用至少k次的工具占比。TRR@1衡量非冗余工具的使用率（接近1.0表示几乎没有'死代码'），TRR@5和TRR@10则识别'核心科学原语'的涌现——那些被高频复用的通用计算基元。这个指标从工具演化质量的角度补充了传统准确率指标。

TRR@k是区分TTE与基线方法的关键量化指标。基线方法TRR@1极低（如Creator仅0.17），说明大多数生成的工具从未被复用；而TTE-Zero达到0.99，几乎每个工具都被复用。

跨域工具适应（Cross-Domain Tool Adaptation）

将一个源领域（如材料科学）已有的工具库迁移到目标领域（如化学或物理学），通过动态演化新工具和剪枝不相关旧工具来适应新领域的计算需求。这类似于迁移学习中的域适应，但操作的对象不是模型参数，而是可执行的计算工具库。

TTE-Adapt是本文的第二大贡献，证明了计算原语可以跨学科迁移。这对于构建真正通用的科学AI智能体至关重要。

语义检索与去重（Semantic Retrieval and Deduplication）

使用嵌入模型（如bge-m3）计算工具描述的语义相似度，通过余弦相似度进行最近邻检索。当相似度超过阈值tau时复用已有工具，否则触发合成流程。去重机制同样基于语义相似度，防止功能重复的工具污染库空间。论文中检索阈值通过最大化F1分数来选取。

检索和去重是连接工具演化与实际问题求解的桥梁。论文还发现了'工具过载现象'——随着工具库扩大，检索精度反而下降，这对未来系统设计有重要启示。

研究动机

当前AI for Science领域的主流方法依赖静态工具库——即预先人工策划或离线合成的一组固定工具函数。这种范式在通用领域（如天气查询、酒店预订）中表现尚可，但在科学推理场景下存在两个致命瓶颈。第一，科学工具具有极端的稀疏性和异构性：与通用领域丰富的API生态不同，科学计算函数分散在各个学科中且缺乏标准化，手动构建一个全面覆盖的工具库在计算上不可行。以化学领域为例，ChemCrow仅提供约19个工具，CheMatAgent扩展到约130个，但仍无法覆盖数学和物理学中的基础计算原语。第二，也是最关键的，静态库无法预见新颖科学探究所需的定制化计算基元，这将智能体的角色限制为被动选择者而非主动发现者，人为地设定了其解决未见问题能力的上限。例如，当面对一个需要计算特定条件下摩尔体积的问题时，静态库中可能根本不存在直接匹配的工具函数。

本文的目标是本文提出一种全新的范式——测试时工具演化（Test-Time Tool Evolution, TTE），目标是让LLM智能体在推理过程中（而非推理之前）动态合成、验证和演化可执行的计算工具。具体而言，TTE要实现三个目标：（1）从零开始构建工具库（TTE-Zero），在解决真实科学问题的过程中逐步积累高质量的原子计算原语；（2）跨域工具适应（TTE-Adapt），将一个领域的工具库动态迁移到新领域；（3）在准确率和工具利用效率上同时达到新SOTA。为支撑严格评估，论文还构建了SciEvo基准，包含1,590个科学推理任务和925个自动演化生成的工具。

与已有工作不同的是，本文的独特切入角度在于将工具从'固定资源'转变为'问题驱动的产物'。现有工作如CREATOR和CRAFT虽然也涉及工具生成，但将工具制作阶段与推理阶段解耦——先离线生成工具，再在线选择。Voyager引入了演化技能库的概念，但针对的是具身环境中的游戏任务，缺乏科学推理所需的严谨性。TTE的本质区别是：工具的生成、验证、分解、去重和执行全部发生在推理时的闭环中，形成一个自演化的工具生态系统。这种范式转换使得工具空间与无界的科学问题空间保持内在同构——工具库的覆盖范围不是由人工策划决定的，而是由实际遇到的问题自然演化出来的。

核心方法

TTE框架的核心直觉可以用一个类比来理解：传统方法像是给厨师一本固定的食谱书（静态工具库），厨师只能从已有的菜品中选择；而TTE则是一位能在做菜过程中即兴发明新菜式的厨师——遇到缺食材时现场发明替代方案，遇到新技法时记录下来以备后用。技术路线上，TTE构建了一个包含五个模块的闭环演化工作流：（1）结构化任务分解器将复杂科学问题拆分为可执行的子目标序列；（2）动态工具检索器在现有工具库中搜索匹配项；（3）当检索失败时，生成式工具合成器按需创建新工具并进行严格验证；（4）原子工具精炼器将验证通过的工具分解为可复用的原子单元，经去重后注册入库；（5）运行时执行引擎组装并执行工具链以得出最终答案。整个系统的目标函数是一个在线优化问题：在T个时间步上最大化累积效用，目标函数为 max sum(I(Solved(P_t, L_t)) - lambda * |L_t|)，其中I是问题求解的指示函数，lambda是正则化系数。

TTE最本质的创新在于将工具从'静态选择对象'转变为'动态演化产物'，并引入原子分解保证演化质量。与已有方法的核心区别体现在三个层面。第一，时间维度的转变：静态工具范式遵循'先构建后使用'的线性流程，而TTE在推理时同步完成工具的合成与使用，形成反馈闭环。第二，质量保障机制：TTE不是简单地生成代码片段，而是通过语法检查、执行测试和领域验证的三重验证确保工具正确性，再经原子分解最大化未来复用潜力。第三，理论保证：论文严格证明了两个关键定理——Theorem 1表明分解后的原子库在期望复用率上严格优于单体工具，Theorem 2证明了在工具库扩张时若不改进检索机制，检索精度必然单调下降。

方法步骤详情

TTE的完整执行流程包含五个有序步骤。步骤一：结构化任务分解。问题分析器（Problem Analyzer）接收用户查询P，将其分解为一系列可执行的操作集合，分解过程是工具感知的，会隔离出需要计算干预的特定子目标。步骤二：动态工具检索。对每个操作O_i，系统在动态工具注册表中通过语义相似度sim(O_i, T_j) = cos(embed(d_{O_i}), embed(d_{T_j}))检索匹配工具，当最大相似度s_max超过阈值tau时复用已有工具（matched路径），否则触发合成流程（missed路径）。步骤三：生成式工具合成。工具合成器通过链式推理生成候选工具T_proposed，经工具验证器执行语法检查、执行测试和领域验证三重校验，验证通过概率P(valid|T_proposed) = P_syntax * P_exec * P_domain。步骤四：原子工具精炼。验证通过的工具被原子分解器拆解为k个基本单元，经冗余检查器（阈值0.8）过滤后注册入库；当库容量超过C=500时，低使用率工具被自动剪枝。步骤五：运行时执行。工具执行器将检索或合成的工具链组装为最终求解程序S = Solve(P, L_t)，若执行失败则回退到直接推理模式。

技术新颖性

TTE的技术新颖性体现在多个维度。首先，在工具演化的形式化方面，这是首个将测试时工具生成与维护统一建模为在线优化问题的工作，区别于CREATOR的一次性生成和LATM的离线耦合模式。其次，在原子分解理论方面，论文证明了Theorem 1（分解下界），严格论证了将单体工具拆分为原子组件能够解锁部分复用能力——即便未来查询只需要子功能集中的一部分，也能独立调用对应的原子工具。再次，在工具过载现象的发现上，论文证明了Theorem 2（单调退化），指出随着工具库扩大，在不改进检索机制的前提下检索精度必然下降，这解释了为什么简单地积累更多工具并不总能提升性能。最后，在库增长稳定性方面，Theorem 3证明了工具库大小在生成-剪枝机制下会渐近收敛到稳定均衡点L* = lambda_g * K / (lambda_g + lambda_p * K)，确保系统不会因无限扩张而失控。这些理论贡献使得TTE不仅是一个工程框架，更有严格的数学基础支撑。

实验结果

论文在三个基准（SciBench、SciEval、SciEvo）上进行了全面实验，核心发现如下。在准确率方面，TTE-Zero在SciBench上达到0.45，超越最强基线KTCE（0.37）和领域专用的CheMatAgent（0.34）；在SciEvo上达到0.62，比CheMatAgent（0.56）和KTCE（0.55）分别高出6和7个百分点。这些结果在GPT-3.5-turbo上获得（温度0.3），验证了即使是中等能力的模型也能从TTE框架中显著受益。在工具复用率方面，TTE-Zero在SciEvo上达到近乎完美的TRR@1=0.99，表明几乎每个生成的工具都被成功复用；在更严格的阈值下，TRR@10=0.41仍保持可观水平，而Creator仅0.02、KTCE仅0.04，说明基线方法生成的大多数工具是从未被使用的'死代码'。消融实验显示，子目标分解策略（S+Tools）在所有模型和库规模下一致优于直接查询策略（Q+Tools），例如在Qwen2.5-7B上库大小100时，S+Tools达到0.364而Q+Tools仅0.313。跨域适应实验中，TTE-Adapt从材料科学迁移到化学时准确率从0.535（No Tool）提升到0.595，且成功实现了'替代效应'——自动降低对源域工具的依赖（TRRtrans@1从0.26降至0.23）同时增加目标域新工具的合成（TRRevol@1=0.24）。三个模型（GPT-3.5-turbo、GPT-4o、Qwen2.5-7B）的一致表现验证了框架的鲁棒性。

查看结构化数据

任务	指标	本文	基线	提升
SciBench科学推理	Accuracy	TTE-Zero: 0.45	KTCE: 0.37, CheMatAgent: 0.34	比最强基线KTCE提升21.6%（+0.08）
SciEval科学推理	Accuracy	TTE-Zero: 0.30	KTCE: 0.24, CheMatAgent: 0.23	比最强基线KTCE提升25.0%（+0.06）
SciEvo科学推理	Accuracy	TTE-Zero: 0.62	CheMatAgent: 0.56, KTCE: 0.55	比最强基线CheMatAgent提升10.7%（+0.06）
SciEvo工具复用率	TRR@1	TTE-Zero: 0.99	CheMatAgent: 0.62, KTCE: 0.31	比最强基线CheMatAgent提升59.7%
SciEvo工具复用率	TRR@10	TTE-Zero: 0.41	CheMatAgent: 0.17, Creator: 0.02	比最强基线CheMatAgent提升141.2%
跨域适应（材料→化学）	Accuracy	TTE-Adapt: 0.595	Source Only: 0.561, No Tool: 0.535	比Source Only提升6.1%（+0.034）
跨域适应（材料→物理）	Accuracy	TTE-Adapt: 0.618	Source Only: 0.585, No Tool: 0.535	比Source Only提升5.6%（+0.033）

局限与改进

论文作者坦诚地承认了四个主要局限。第一，推理延迟和计算开销：与静态检索方法相比，TTE需要在推理过程中合成和验证工具，动态演化过程不可避免地带来更高的计算开销和延迟。未来工作可以研究轻量级'元模型'来预测工具必要性，从而跳过对简单查询的演化过程。第二，对基础LLM编码能力的依赖：TTE的有效性内在受限于骨干LLM的代码生成能力。实验表明使用GPT-3.5-turbo等高容量模型时达到SOTA，但参数量小于7B的开源小模型在生成语法正确的Python原语时会出现性能退化。第三，开放式演化中的安全与沙盒问题：允许智能体在测试时生成并执行任意代码引入了潜在安全风险，特别是在开放式科学探索中，生成的脚本可能意外消耗过多资源或尝试不安全操作。第四，'工具过载现象'的发现揭示了一个反直觉的趋势——将工具库存从100扩大到500个原子原语并不总能带来性能提升，在某些配置下甚至会降低准确率，这是因为向量空间中语义密度增加导致检索碰撞。此外，从论文未充分讨论的角度来看，SciEvo基准的构建依赖于三个特定数据源（SciEval、SciBench和一个材料科学私有数据集），其对更广泛科学领域的泛化性尚需验证；工具验证目前仅覆盖语法、执行和领域三个层面，缺乏对计算结果正确性的深层验证机制。

独立分析的弱点

从独立分析的角度，TTE框架存在以下值得改进的弱点。首先，在检索机制方面，当前采用的平坦语义检索（flat similarity search）在工具库扩大时会遭遇精度退化。改进方向是引入层次化索引策略——先通过粗粒度聚类定位相关工具域（如化学/物理/数学），再在子域内进行细粒度匹配，这可以有效缓解语义空间拥挤导致的检索碰撞。其次，在工具验证的深度方面，当前验证仅覆盖语法正确性、可执行性和领域合理性三个维度，但无法保证计算结果的正确性。一个摩尔质量计算器可能语法正确、可执行、符合领域预期，但仍返回错误数值。改进方向是引入基于测试用例的回归验证——利用种子数据中的已知答案自动构造验证用例，对生成工具进行端到端的功能测试。再次，在跨域适应的评估范围上，论文仅测试了材料到化学和材料到物理两个迁移方向，但未探索更远距离的域迁移（如数学到生物学）或反向迁移。最后，在推理效率方面，闭环演化带来的延迟开销可能使TTE在对实时性要求高的应用场景中不具竞争力，需要开发'快速路径'机制——对高频出现的查询模式预缓存工具链，仅对新颖查询触发完整演化流程。

未来方向

论文在结论和附录中提出了若干未来研究方向，基于这些方向可以进一步延伸。作者明确提出的方向包括：（1）生命周期管理——在塑料性（获取新工具）和稳定性（保留核心能力）之间寻找平衡，开发智能剪枝和层次化索引机制；（2）鲁棒性与校准——引入形式化验证或不确定性感知生成来保证代码安全，开发元认知校准机制让智能体动态权衡检索与演化的成本。基于论文成果可延伸的方向包括：（3）多模态工具演化——将TTE扩展到需要解读图表或仪器读数的场景，联合演化感知能力和推理能力；（4）分布式工具演化——多个智能体并行演化工具库并共享发现，模拟科学社区的集体知识积累过程；（5）理论层面，探索工具演化的收敛速度和最优库容量的理论界，为实际系统设计提供更精确的指导。

复现评估

论文的代码和基准已在GitHub开源（https://github.com/lujiaxuan0520/Test-Time-Tool-Evol），采用MIT许可证。数据来源均为公开的科学数据集（SciEval、SciBench）加上一个材料科学专有数据集，论文声明所有数据经过PII筛选且符合预期研究用途。在算力需求方面，主要实验基于GPT-3.5-turbo（通过API调用），也测试了GPT-4o和Qwen2.5-7B-Instruct三个模型。复现的主要挑战在于：（1）需要消耗大量API调用费用，因为TTE在推理时需要反复调用LLM进行工具合成和验证；（2）工具库的演化过程具有随机性（采样温度0.3），完全精确复现需要固定随机种子；（3）验证流程依赖GPT-4.1-nano作为评判模型，这引入了额外的API依赖。总体而言，对于有API访问权限的研究者，复现难度中等；框架设计相对清晰，五个模块的解耦使得独立理解和修改各组件成为可能。

超越静态工具：面向科学推理的测试时工具演化 Beyond Static Tools: Test-Time Tool Evolution for Scientific Reasoning