GraphSkillEvo：图结构智能体技能的进化优化 GraphSkillEvo: Evolutionary Optimization of Graph-Structured Agent Skills

完整流程分四步。Step 0（种群初始化）：从初始技能 $s_1$ 出发，用初始化提示让 LLM 再生成 $N-1$ 个多样化图结构技能组成 $P^{(1)}$，每个个体都要通过结构校验器（校验工作流引用的节点都已在 $V_s$ 中定义、每个声明的节点至少出现在一条工作流中），然后在完整 $\mathcal{D}_{val}$ 上评估得到适应度 $J_{\mathcal{D}_{val}}(s)$。Step 1（训练集执行）：第 $t$ 代从 $\mathcal{D}_{train}$ 采样一批 $B=15$ 个实例，每个技能 $s_i^{(t)}$ 挂到智能体上执行得到轨迹集 $\mathcal{T}_i^{(t)}=\{\tau_{x,s_i^{(t)}}\}$，并保留至多 $K=5$ 条得分 $r_{x,s}=0$ 的失败轨迹作为反思信息 $\mathcal{F}_i^{(t)}$。Step 2（新技能生成）：先按轮转调度从四个算子中选一个；再按 $p\propto 1/(r+N)$（$r$ 为适应度排名）采样父代——变异选一个父代、交叉选两个；最后由生成智能体 $A_{gen}$ 执行算子：全局指引变异只根据失败轨迹修改 Global Guidance 部分；图结构变异只修改节点与工作流（细化节点指令、增删节点、调整路径），保留全局指引；全局指引交叉融合两个父代的全局指引并保留其一图结构；图结构交叉重组两个父代的节点和边并保留其一全局指引。生成结果若未通过结构校验则丢弃重生成。Step 3（种群选择）：$N$ 个新技能与当前种群共 $2N$ 个候选全部在完整 $\mathcal{D}_{val}$ 上评估，取适应度最高的 $N$ 个组成 $P^{(t+1)}$。重复 $T=5$ 代后返回最优个体。任务层面：SpreadsheetBench 无 harness 时允许最多 30 轮代码迭代，Codex harness 下单轮生成；ALFWorld 每回合限 50 步交互。

技术新颖性体现在三个层面。表示层面：此前技能优化方法（SkillOpt、EvoSkill、Trace2Skill、SkillX 等）一律把技能当无约束自然语言，本文首个把单个技能内部结构显式建模为「全局指引 + 复用节点 + 多条件工作流路径」的图；与 Graph-of-Skills、SkillDAG、GraSP、HiSkill 这些用图组织技能库做检索/编排的工作也不同——那些图跨越技能之间，本文的图在技能内部且服务于优化而非检索。算子层面：四个算子按「全局指引 vs 图结构 × 变异 vs 交叉」正交分解，每个算子都保持另一半不变（如全局指引变异冻结图结构、图结构交叉冻结全局指引），这种解耦让 LLM 每次只需专注修改技能的一个维度，同时由外部校验器以硬约束保证图 schema 一致性（节点名精确匹配、无悬挂引用、路径可执行），弥补了 LLM 生成结构化内容容易出错的问题。搜索层面：把进化计算引入技能优化，交叉对应「组合不同搜索轨迹各自发现的有效组件」，这在机制上是单链自反思做不到的；消融显示即使保留种群和变异、只去掉交叉（等价于多条并行 SkillOpt），也会损失 4.93 分，说明收益确实来自跨个体信息交换而非仅仅多种子并行。此外整体 token 效率更优：总消耗比 SkillOpt 低约 24%（GPT-5.4：61.94M vs 81.08M）和 27%（nano：75.94M vs 103.54M）。

独立分析的弱点及改进方向。第一，小验证集上的适应度噪声：$\mathcal{D}_{val}$ 仅 18 条（LiveMath）到 200 条（SearchQA），成功率估计的方差很大，而种群选择恰恰按这个噪声信号做 top-$N$ 截断，容易把「运气好」的技能选进下一代；改进方向是引入 bootstrap 置信区间、多折交叉验证式评估，或使用噪声感知选择（如对边界技能二次复评）。第二，缺少图复杂度控制：变异可自由增删节点和工作流，适应度又不惩罚规模，进化后期可能出现节点膨胀、技能变长，反而加重小模型的指令负担，与初衷相悖；改进方向是在适应度中加入最小描述长度（MDL）式的复杂度正则，或设置节点数预算。第三，固定 round-robin 算子调度：消融已显示变异贡献（-17.02）远大于交叉（-4.93），但四个算子仍被等概率轮转，浪费了生成预算；改进方向是用多臂老虎机（如 UCB）根据历史收益自适应分配算子。第四，任务内单技能、任务间孤立：每个任务从头进化一个图技能，不同任务的相似节点（如「验证答案」「解析目标」）无法复用；改进方向是维护跨任务的节点池，允许交叉从任务外引入组件。第五，反思信号只取 $r=0$ 的完全失败轨迹：SpreadsheetBench 这类部分得分任务中「错了一半」的轨迹信息被浪费；改进方向是利用部分得分做细粒度步骤归因，把反思定位到具体节点。第六，进化随机性下的稳定性：Table 7 显示单次运行间标准差可达 3~7 分，实际部署需要多次运行取优，进一步推高成本；改进方向是更稳定的变异提议机制或早停策略。

作者在结论中提出三个方向：与参数化优化方法结合（例如把图技能的软提示版本与权重微调联合训练）；扩展到更丰富的图组合机制（如层次图、带条件分支与循环的控制流原语）；开发跨领域图结构技能的合并方法。基于本文成果还可以自然延伸：用自适应算子选择和更大种群/代数检验方法的规模效应；为适应度加入复杂度正则研究「性能-技能长度」的帕累托前沿；把迁移实验扩展到异构模型族（如 Qwen、DeepSeek、Gemini）并研究哪些图组件迁移性好、哪些过拟合于源模型；将技能库中的子图检索与本文的技能内图结构结合，实现「检索一个子图注入当前技能」的持续学习闭环；利用工作流的天然可解释性做执行审计与失败定位（每个失败都能归因到具体节点或边）；以及把 crossover 思想移植到多智能体系统，让不同智能体各自进化的技能通过结构化重组共享知识。

复现条件总体较好。代码已开源（https://github.com/ruisun7/GraphSkillEvo）；五个基准全部公开可得（SearchQA、SpreadsheetBench CC-BY-SA-4.0、DocVQA Apache-2.0、LiveMathematicianBench、ALFWorld MIT），数据划分用固定 seed=42 的确定性过程且与所有基线完全一致，附录 Table 6 给出每个集合的大小（如 SearchQA 400/200/1400，SpreadsheetBench 80/40/280）；附录 B.4 提供完整算法伪代码，E.1~E.2 给出四个进化算子和初始化的完整 prompt，E.3~E.4 附带优化后的图技能示例与非结构化对照版本，基线 SkillOpt 本身也是 MIT 协议开源（microsoft/SkillOpt）且附录 D.1 列出了其全部超参。算力方面没有训练需求，瓶颈是 API 成本：需要 GPT-5.4 与 GPT-5.4-nano（medium reasoning effort）的访问权限，单次完整优化按基准消耗约 3M~48M token，两个模型五个基准合计约 62M~104M token，正式结论基于 3 次重复、显著性实验 5 次重复，估计需要数百美元量级的 API 预算；Codex harness 实验还需 Codex SDK，ALFWorld 实验需搭建文本交互环境。难度中等：算法本身不复杂，但管线依赖 LLM 输出合规 JSON 图文档外加结构校验器，工程调试量不小，且进化随机性意味着要复现具体数字需要同样的重复次数。