ASA：面向工具调用代理的无骨干训练表征工程 ASA: Training-Free Representation Engineering for Tool-Calling Agents
通过推理时表征工程提升LLM工具调用的可执行性，无需微调模型
前置知识
工具调用（Tool Calling）
大语言模型代理通过生成特定格式的文本来调用外部工具（如API、代码解释器、搜索引擎等）的能力。模型需要识别何时需要工具、选择正确的工具名称、提供合法的参数，并按照工具接口要求生成结构化的调用指令。这与普通的文本生成不同，需要满足严格的格式和语义约束。
这是本文要解决的核心问题——如何让LLM生成符合解析器要求的、可执行的工具调用，而不仅仅是'看起来像'工具调用的文本。
意图-执行鸿沟（Intent-Execution Gap）
作者提出的核心概念，指模型隐藏状态中包含的工具使用意图信号（可被线性探针读取）并不能保证解码阶段生成可执行的工具调用。具体表现为：模型能以97.5%的触发率进入工具模式，但只有20%的输出能通过严格验证。这意味着'知道需要调用工具'和'能正确调用工具'之间存在显著差距。
这是本文研究的动机和理论基础，理解这个鸿沟是理解ASA方法设计的关键。
激活引导（Activation Steering）
一种推理时表征工程技术，通过在模型的中间层隐藏状态上添加方向性扰动来改变模型行为，而无需修改模型参数。具体做法是：计算某个行为方向（如工具调用vs直接回答）的表征差异，然后在推理时将这个方向乘以一个系数加到隐藏状态上，引导模型输出特定行为。
这是ASA方法的技术基础，ASA的核心创新在于如何有选择地、分域地应用激活引导。
边界进入（Boundary Entry）
指模型从直接回答模式切换到工具调用模式的过程，以输出中出现解析器可识别的触发标记（如标签）为标志。边界进入是工具调用的必要条件，但不是充分条件——即使进入了工具模式，后续的工具名称、参数、格式仍可能出错。
ASA将工具调用问题分解为边界进入和边界后实现两个子问题，这个分解是方法设计的核心。
共享-局部分解（Shared-Local Decomposition）
ASA的核心设计思想，将工具调用的表征变化分解为两部分：共享边界方向（跨所有工具域的通用工具模式进入信号）和领域局部残差方向（特定工具模式的参数格式、调用规范等细节）。通过这种分解，避免全局引导与局部引导的冗余叠加。
这个分解使得ASA能同时处理通用工具调用意图和特定工具模式的实现细节，是方法新颖性的核心。
研究动机
大语言模型代理在工具调用场景中面临严重的可靠性问题。现有研究表明，即使是最先进的模型在严格的多步、并行、嵌套和长上下文工具调用设置下也会退化。具体而言，作者发现一个关键现象：在Qwen3-8B上，线性探针能以约0.84的AUC从中间层表征中读取工具使用证据，但这些可读的证据并不能保证可执行的工具调用。在探针得分最高的10%样本中，基线模型的边界进入率达到100%，但严格执行成功率仅为25%。在所有探针得分>0.5的98个测试样本中，触发率高达96.94%，但严格成功率仅为24.49%。这表明模型'知道'需要调用工具，但解码过程无法可靠地将这个意图转化为格式正确、参数合法、工具名称有效的可执行调用。
本文的目标是本文的具体目标是：在不微调骨干模型的前提下，通过推理时的表征工程来弥合意图-执行鸿沟。作者希望设计一个轻量级的推理时控制器，能够在模型生成工具调用时进行干预，既不过度激活工具模式（避免误触发），也不遗漏真正的工具调用需求，同时确保生成的工具调用满足严格的解析器验证要求。
与已有工作不同的是，现有的工具调用优化方法存在两个主要局限：一是提示工程和演示方法虽然易于部署，但对提示措辞、上下文长度和接口变化敏感；二是监督微调、LoRA适配器等参数更新方法虽然能改善工具调用，但需要重新训练和回归测试。更重要的是，现有的表征级研究虽然证明了工具必要性和工具调用决策可以从预生成隐藏状态中解码，但这些工作主要关注'是否需要调用工具'的决策，而非'如何正确执行工具调用'的实现。本文的独特切入角度是：将工具调用问题分解为边界进入和边界后实现两个子问题，并设计一个共享-局部的门控控制器来分别处理这两个子问题。
核心方法
ASA方法的核心思路是：将工具调用视为一个分解的隐藏状态控制问题。首先，作者发现工具调用的表征变化可以分解为两部分：共享边界方向（通用的'进入工具模式'信号）和领域局部残差方向（特定工具模式的实现细节）。基于这个发现，ASA设计了一个三层架构：（1）共享边界方向校准，用于控制模型何时从直接回答切换到工具调用模式；（2）领域局部残差方向，用于在边界可达后注入特定工具模式的偏置；（3）符号门控机制，根据工具必要性、边界就绪性和域可靠性三个信号决定是打开边界、抑制虚假边界交叉还是保持沉默。整个控制器在推理时工作，不修改骨干模型参数。
ASA的核心创新在于其共享-局部门控设计，与已有方法的本质区别体现在三个方面：第一，与无门控的激活引导不同，ASA使用符号门控机制（ab(x) ∈ {-1, 0, +1}）来选择性地干预，避免了无条件工具使用放大导致的过度触发问题；第二，与全局引导不同，ASA将表征变化分解为共享边界方向和领域局部残差方向，避免了全局方向与局部方向的冗余叠加；第三，与提示工程不同，ASA在表征层面进行干预，不依赖输入接口的格式。具体而言，ASA计算三个标量信号：工具必要性概率p(x)（通过域特定探针）、边界就绪性得分rb(x)（通过共享边界方向与当前表征的内积）、域置信度sdom(x)（通过轻量域预测器）。这三个信号共同决定是否进行干预以及如何干预。
方法步骤详情
ASA方法包含以下步骤：（1）表征分解：使用校准集（与评估集不相交）估计共享边界方向 vb = E[hL(x)|y*=1] - E[hL(x)|y*=0]，以及原始域方向 vd = E[hL(x)|y*=1,d(x)=d] - E[hL(x)|y*=0,d(x)=d]。然后从vd中移除共享边界分量，得到域局部残差方向 v(d)s = vd - (vd⊤vb/||vb||²)vb。（2）信号计算：在推理时，给定输入x，计算三个信号——域预测器给出预测域d̂和置信度sdom(x)；域特定探针估计工具必要性 p(x) = σ(w⊤_d̂ hL(x) + b_d̂)；边界就绪性得分 rb(x) = calib(v̂b⊤ h̃L(x))，其中calib是验证集拟合的标量校准映射。（3）门控决策：边界动作ab(x)根据p(x)和rb(x)决定——当p(x) > τp且rb(x) < τb时，ab = +1（打开边界）；当p(x) < 1-τp且rb(x) > γ时，ab = -1（抑制边界）；否则ab = 0（保持沉默）。域局部动作 as(x) = 1{p(x) > τp, rb(x) ≥ τb, sdom(x) > τs}，仅在模型已边界就绪且域估计可靠时激活。（4）表征更新：应用门控更新 h'L(x) = hL(x) + ηb ab(x) v̂b + ηs as(x) v̂(d)s，其中ηb和ηs是验证集选择的更新强度。如果ab = as = 0，则ASA保持沉默，不修改隐藏状态。（5）推理变体：ASA-PreFill在解码前应用一次更新；ASA-StateCascade在多个生成状态上重新评估和应用更新，适用于多步和嵌套工具调用场景。
技术新颖性
ASA的技术新颖性体现在以下几个方面：第一，问题分解视角：首次将工具调用问题明确分解为边界进入和边界后实现两个子问题，并通过实证验证了这个分解的必要性——高探针得分只预测边界进入，不预测严格成功。第二，共享-局部架构：提出从域方向中移除共享边界分量的方法，得到正交的域局部残差方向，避免了全局引导与局部引导的冗余叠加。第三，符号门控机制：设计了三信号门控（工具必要性、边界就绪性、域可靠性），实现选择性干预——既不过度激活工具模式，也不遗漏真正的工具调用需求。第四，无骨干训练：整个控制器仅需约20KB额外存储（引导向量和探针权重），推理开销增加约10.9%，无需微调骨干模型。第五，轨迹级控制：ASA-StateCascade变体在多个生成状态上进行状态级干预，适用于多步和嵌套工具调用场景，而不仅是单次解码前干预。
实验结果
本文在NESTFUL和BFCL两个基准上进行了全面评估，核心发现如下：在NESTFUL基准上，ASA将Qwen3-8B的整体首次调用准确率从24.46%提升至41.94%，序列准确率从16.94%提升至25.00%，同时将缺失工具失败率从59.14%大幅降低至6.72%。这两个最接近的局部控制方法（Probe&PreFill和Tool-identity steering）虽然分别改善了边界进入和缺失工具失败，但都无法匹配ASA的首次调用/序列准确率权衡。在BFCL基准上，ASA将多轮提示模式成功率从32.50%提升至38.75%，单轮非实时AST准确率从89.40%提升至95.60%，实时单轮AST准确率从72.50%提升至77.00%。更大的多轮增益与ASA-StateCascade在工具调用轨迹上应用状态依赖校正的特点一致。错误分析进一步表明，ASA主要纠正了边界进入和轨迹继续失败，而剩余错误集中在精细模式实现和嵌套参数绑定上。在BFCL多轮诊断中，ASA将轮调用召回率从0.904提升至0.954，将误调用率从0.331降低至0.294，工具名称召回率从0.857提升至0.903，路径LCS比率从0.887提升至0.915。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| NESTFUL嵌套工具调用 | 整体首次调用准确率 | 41.94% | 24.46% | +17.48个百分点 |
| NESTFUL嵌套工具调用 | 序列准确率 | 25.00% | 16.94% | +8.06个百分点 |
| NESTFUL嵌套工具调用 | 缺失工具失败率 | 6.72% | 59.14% | -52.42个百分点 |
| BFCL多轮提示模式 | 整体成功率 | 38.75% | 32.50% | +6.25个百分点 |
| BFCL单轮非实时 | AST准确率 | 95.60% | 89.40% | +6.20个百分点 |
| BFCL实时单轮 | AST准确率 | 77.00% | 72.50% | +4.50个百分点 |
局限与改进
本文存在以下局限性：第一，实验聚焦于离线模式约束的工具调用，使用固定的解析器定义的评估器，ASA在更动态、交互式的工具调用场景中的表现尚未验证。第二，NESTFUL评估的是嵌套可执行轨迹，因此序列准确率的提升反映的是边界进入、状态依赖门控和模式敏感残差控制的综合效果，而非每个通道的单独贡献。第三，ASA未能完全解决边界后模式实现问题——在嵌套设置中，参数精度和召回率仍然较低，表明变量绑定和参数传播需要比当前线性残差方向更精细的控制。第四，作者自己也指出，匹配的解码预算比较和更精细的可执行基准将进一步加强每个控制器组件的因果解释。第五，当前实现中，层30和32因投影层输出维度不兼容而被排除，这可能限制了控制器的表达能力。
独立分析的弱点
基于独立分析，ASA存在以下弱点：第一，域预测器的准确性是关键瓶颈——如果域预测错误，域局部残差方向可能注入错误的模式偏置，导致工具名称错误。作者在消融实验中展示了'域不匹配'设置下工具名称准确率从0.744降至0.635。改进方向是使用更强大的域预测器或引入域预测的不确定性校准。第二，探针分数的校准映射是验证集拟合的，在分布外场景可能失效。改进方向是使用更鲁棒的校准方法或在线自适应校准。第三，当前的线性残差方向假设表征变化是线性的，但工具调用的精细结构（如嵌套参数绑定）可能需要非线性控制。改进方向是探索更复杂的表征干预方法，如条件激活补丁。第四，ASA在简单单轮工具调用上的增益较小（首次调用准确率从70.79%提升至96.63%，但嵌套场景增益更大），表明控制器在简单场景中可能过度保守。改进方向是设计自适应的门控阈值，根据输入复杂度动态调整。
未来方向
作者在结论和讨论中提出了以下未来研究方向：第一，进一步探索变量绑定和参数传播的控制机制，这需要比当前线性残差方向更精细的表征干预。第二，在更广泛的工具调用场景中验证ASA的泛化能力，包括动态工具集、交互式工具调用、多代理协作等。第三，将ASA与其他推理时控制方法（如思维链提示、自一致性等）结合，探索协同效应。第四，基于ASA的分解视角，重新审视工具调用的表征学习——是否可以通过表征正交化训练来显式分离边界进入和模式实现的表征子空间。第五，探索ASA在其他需要严格格式约束的任务中的应用，如结构化输出生成、代码生成、SQL查询生成等。
复现评估
本文的复现条件较为友好：第一，代码和数据方面，作者使用了公开的NESTFUL和BFCL基准，且明确说明了校准集与评估集的划分。第二，算力方面，实验使用单张A100-40GB GPU，ASA额外存储仅约20KB，推理开销增加约10.9%，远低于需要微调骨干模型的方法。第三，实现细节方面，论文提供了详细的附录，包括探针配置、层选择、阈值设置、门控分布等。第四，模型方面，主要实验基于Qwen3-8B，但作者也提供了LLaMA-3.1-8B的交叉骨干验证。复现的主要难度在于：需要严格遵循确定性解析器规则（附录C详细说明）；需要独立划分校准集以避免数据泄露；ASA-StateCascade的多层干预实现较为复杂。总体而言，复现难度中等偏易。
论文图表
该图对比了全量微调、LoRA/适配器调优、提示工程、表征/动作编辑、激活补丁和ASA在训练成本、存储开销、灵活性和性能方面的差异。
这张图帮助读者理解ASA在方法家族中的定位——它是一种推理时控制器，介于仅提示控制和参数更新适配之间。