解锁隐式经验：从文本中合成工具使用轨迹 Unlocking Implicit Experience: Synthesizing Tool-Use Trajectories from Text

GEM管道的四个阶段详细步骤如下：第一阶段是文本过滤（Stage 1: Text Filtering），使用与初步分析相同的标注提示和模型（Qwen3-8B），从原始文本段落 $c_i$ 中筛选出包含多步骤操作的段落，过滤掉不描述多步骤操作的文本，确保后续生成轨迹的质量和真实性。第二阶段是工作流与工具提取（Stage 2: Workflow & Tool Extraction），对每个保留的文本段落 $c$，模型被要求识别所有工作流并枚举其中的各个步骤，同时识别工作流的复杂性（包括顺序依赖、条件逻辑和唯一性约束），并按照OpenAI schema标准设计一套API工具 $P = \{p_1, \ldots, p_m\}$，每个工具执行单一连贯的功能，参数名自解释，数据类型明确。第三阶段是轨迹生成（Stage 3: Trajectory Generation），基于前两阶段的文本、抽象工作流和工具，使用强教师模型GLM-4.6一次性生成完整的多轮对话轨迹 $T$，包含系统提示 $s$、用户任务序列 $(u_1, \ldots, u_n)$、助手响应 $(a_1, \ldots, a_n)$ 和工具响应 $(o_1, \ldots, o_n)$，并鼓励包含多种交互模式（拒绝超出能力的请求、澄清模糊查询、从错误中恢复等）。第四阶段是轨迹精炼（Stage 4: Refinement），对初始轨迹 $T$ 进行增强，生成精炼轨迹 $T'$，通过扩展工具种类、提升环境响应真实性、增加用户请求模糊性和复杂度、确保包含非平凡的工具调用链。最后进行验证（Validation），结合规则检查（验证工具定义符合OpenAI格式、工具调用有效）和基于LLM的幻觉检测（使用Qwen3-32B检查工具调用参数值是否基于对话上下文），只有通过两阶段验证的轨迹才被保留为最终训练数据 $T_{final}$。

GEM在技术新颖性上有几个显著区别于已有工作的特点。首先，与APIGEN-MT、TOUCAN等依赖预定义工具的方法不同，GEM首次提出从非结构化文本中直接提取工具定义和工作流程，这是一种全新的数据来源探索。其次，GEM的合成管道设计体现了对轨迹质量的深度思考：不仅关注轨迹的结构正确性（通过规则验证），还关注内容的真实性（通过LLM-based幻觉检测），这种双重验证机制在已有工作中较少见到。第三，精炼阶段的设计非常巧妙——不是简单地增加数据量，而是通过提升轨迹的复杂度和多样性来增强训练效果，数据显示精炼后轨迹的平均消息数从30.05增加到46.1，工具数从5.01增加到8.6，工具调用数从7.83增加到16.3。第四，训练专门的轨迹合成器（Trajectory Synthesizer）的做法也具有创新性，通过SFT将复杂的多阶段生成管道蒸馏为高效的端到端生成器，在保持质量的同时显著降低了推理延迟和成本。最后，GEM范式的可扩展性是其最大的技术优势——只要存在文本语料库，就可以不断生成新的训练数据，而不受预定义工具集合的限制。

从独立分析的角度来看，GEM存在几个值得关注的弱点。首先，在工具多样性方面，虽然GEM声称可以生成多样化的工具，但生成的工具本质上仍然受限于文本语料库中描述的场景，对于高度专业化或新兴领域的工具（如最新的AI API、区块链智能合约等）可能覆盖不足。改进方向可以是结合主动学习策略，识别能力空白区域并针对性地生成训练数据。其次，轨迹的交互模式虽然鼓励包含错误恢复、澄清等模式，但生成的模式仍然是预定义的（论文列出了5种模式），真实世界中的交互模式可能更加丰富多样。可以通过分析真实用户日志来发现更多交互模式。第三，GEM的验证阶段虽然结合了规则和LLM检查，但对于工具调用的语义正确性（即工具调用是否真正解决了用户问题）的验证能力有限。可以引入更强的验证机制，如让另一个LLM模拟用户评估任务完成度。第四，合成器（Trajectory Synthesizer）虽然降低了成本，但其生成质量与完整管道仍有差距（28.38% vs 30.25%），特别是在BFCL V3的Miss Func和Long Context类别上差距更明显，说明端到端生成在处理复杂场景时仍有不足。

基于GEM的成果，未来研究可以在多个方向上延伸。作者提出的方向包括：探索更有效地利用原始文本信息来合成高质量工具调用轨迹的方法，因为消融实验表明即使是直接从原始文本提取的相对简单的轨迹也能提供有价值的训练信号。更广泛的延伸方向包括：(1) 多模态扩展——将GEM范式扩展到包含图像、视频等多模态文本的场景，因为很多工具使用教程包含截图和视频演示；(2) 动态工具发现——让模型在推理过程中动态发现和学习新工具，而不是依赖预定义的工具集合；(3) 跨语言迁移——利用多语言文本语料库生成多语言工具使用轨迹，提升模型在不同语言环境中的工具使用能力；(4) 持续学习——建立在线学习机制，让模型能够从真实用户的交互反馈中不断改进工具使用策略；(5) 长期任务规划——将GEM扩展到需要数十甚至数百步的长期复杂任务场景。

从复现评估的角度来看，GEM具有较好的可复现性。训练数据来自公开的Ultra-FineWeb语料库，使用的基座模型Qwen3-8B和Qwen3-32B也是开源的。论文详细报告了超参数设置（学习率 $5 \times 10^{-6}$，训练2个epoch，批量大小64，最大长度32K等），并使用LLaMA-Factory进行全参数微调，这是一个广泛使用的开源训练框架。教师模型GLM-4.6虽然是商业模型，但可以用其他强模型替代。论文的提示模板在附录中有完整展示，包括文本过滤、工作流提取、轨迹生成、轨迹精炼和幻觉检测的所有提示。计算资源方面，32B模型的全参数微调需要较大的GPU资源（论文使用了DeepSpeed ZeRO-3），这对资源有限的研究者可能是一个挑战。数据量方面，10K条轨迹的规模相对较小，复现成本可控。总体而言，论文在可复现性方面做得较好，主要障碍在于32B模型训练的算力需求。