从静态模板到动态运行时图：LLM智能体工作流优化综述 From Static Templates to Dynamic Runtime Graphs: A Survey of Workflow Optimization for LLM Agents
用计算图视角统一LLM工作流优化，按结构确定时机分类77篇文献并提出评估协议
前置知识
Agentic Computation Graph (ACG，智能体计算图)
ACG是本文提出的统一抽象，将LLM为中心的可执行工作流表示为有向图。图中的节点执行原子操作（如LLM调用、信息检索、工具使用、代码执行、验证等），边编码控制、数据或通信依赖关系。一个ACG模板可以用五元组 $\bar{G} = (V, E, \Phi, \Sigma, A)$ 描述，其中 $V$ 是节点集，$E$ 是有向边集，$\Phi = \{\phi_v\}_{v \in V}$ 包含每个节点的参数（提示词、工具模式、模型选择、解码设置、验证器设置等），$\Sigma$ 是调度/路由策略，$A$ 是允许的激活或编辑动作。在多智能体系统中，智能体对应具有不同提示词、工具或模型的LLM驱动节点，消息传递表现为图的边。ACG的核心价值在于将散落在不同文献中的概念（工作流、流水线、编排图、通信图、计划、代码定义系统）统一到一个可比较的框架下。
ACG是全文的核心抽象，后续所有分类（静态/动态、节点级/图级优化）都建立在这个图表示之上，不理解ACG就无法理解本文的分类体系。
Graph Determination Time (GDT，图确定时间) 与 Graph Plasticity Mode (GPM，图可塑性模式)
GDT描述工作流结构在何时被确定：offline（离线，模板在部署前优化完成）、pre-execution（执行前，为每次运行生成特定图）、in-execution（执行中，根据运行时反馈修订结构）。GPM描述结构在推理时可以变化的程度：none（结构固定不变）、select（从固定超图中激活或剪枝子图）、generate（为每次运行构造特定图）、edit（在执行过程中添加、删除、重连或重写结构）。这两个轻量描述符帮助区分灰色地带，例如离线训练的工作流生成器在推理时为每个输入产生新图，在分类中属于动态方法，因为实际图是在推理时确定的。
GDT和GPM是本文分类体系的核心维度，贯穿全文的Table 2和Table 3，帮助读者快速定位任何一种方法在静态-动态谱系中的位置。
Template（模板）、Realized Graph（实现图）与 Execution Trace（执行轨迹）
模板 $\bar{G}$ 是可复用的设计对象，指定在观察到具体输入之前系统可用的结构和参数空间。实现图 $G_{run}$ 是某次运行实际使用的工作流结构，可以与模板相同，也可以通过选择子图、实例化可选节点或应用允许的编辑获得。执行轨迹 $\tau = \{(s_t, a_t, o_t, c_t)\}_{t=1}^{T}$ 记录执行过程中产生的状态、动作、观测和成本（token使用量、工具调用次数、延迟、货币费用等）。许多最新论文的区别恰恰在于优化的是这三个对象中的哪一个。
三者的区分是理解一个方法到底在优化什么的关键——优化可复用模板、每次运行的结构、还是运行时行为，决定了方法的适用场景和评估方式。
Quality-Cost Trade-off（质量-成本权衡）
工作流优化可以统一表示为一个优化问题：$\max_{x \sim D} \mathbb{E}_{G_{run}|x} \mathbb{E}_{\tau|G_{run},x}[R(\tau; x) - \lambda C(\tau)]$，其中 $R(\tau; x)$ 是任务质量评分（如准确率、pass@k），$C(\tau)$ 是执行成本，$\lambda$ 控制质量-成本权衡。这个公式同时澄清了三个优化目标：节点级优化固定高级支架只改进局部参数 $\Phi$（如提示词、工具、模型）；图级优化更新结构变量 $E$、$\Sigma$、$A$（拓扑、通信、调度）；联合优化同时更新两者。两个都提升最终准确率的方法可能实际上在优化工作流的完全不同部分。
这个统一公式让读者理解为什么不同方法虽然都声称提升性能，但优化的是完全不同的对象，也为评估提供了质量-成本的统一视角。
Verifier-driven Optimization（验证器驱动优化）
验证器信号在工作流优化中占据特殊位置，因为它们既可以作为硬约束，也可以作为中间检查点或密集奖励组件。在程序合成和软件任务中，单元测试和可执行性检查为工作流修复提供强监督；在结构化工作流合成中，格式有效性和模式合规性可以在昂贵的下游执行之前检查。验证器不仅提高质量，还塑造可行的编辑空间——具有强静态检查的工作流语言支持更激进的生成或变异，因为无效候选可以被廉价拒绝。主要局限是验证器本身可能不完美或成本高昂。
验证器是区分工作流优化与普通提示词优化的关键要素，也是本文反复强调的实际设计选择——在哪里放置验证器、多久调用一次，直接影响优化效果。
研究动机
当前LLM智能体系统已远超简单的聊天机器人，发展为可执行的工作流——协调多个动作，包括LLM调用、工具使用、信息检索、代码执行、内存更新和验证。然而，现有综述主要聚焦于相邻主题：规划综述关注分解、反思和记忆；工具学习综述关注工具检索和调用；多智能体综述关注协作机制和通信协议；广泛优化综述则从参数驱动与无参数方法的角度覆盖优化。这些综述都将工作流结构视为给定的，而非将其作为主要优化目标。在大多数论文中，图构造被隐含为代码、通信模式或规划器-执行器循环，而不是被视为可搜索、可生成、可编辑或可评估的一等优化对象。具体来说，一个代码助手可能需要检索相关文件、提出编辑、运行测试并使用验证器来决定是否修订或停止，但如何系统地优化这个工作流的结构——哪些组件存在、它们如何依赖、信息如何流动——缺乏统一的分析框架。
本文的目标是本文的目标是提供一个以工作流为中心的视角，将LLM智能体系统统一建模为智能体计算图（ACGs），并区分可复用模板、运行特定的实现图和执行轨迹。具体而言，本文要实现四个子目标：（1）引入工作流中心化的表述方式，明确方法优化的是可复用设计、每次运行的结构还是实现的运行时行为；（2）提出基于结构确定时机的分类体系，用图确定时间（GDT）和图可塑性模式（GPM）在统一视角下比较固定模板优化、执行前生成/选择和执行中编辑；（3）沿三个正交轴综合文献——优化目标（节点、图或联合）、证据来源（指标、验证器、偏好或轨迹）和更新机制；（4）组织工作流相关的评估资产，提出最小报告协议，将下游任务性能与图属性、执行成本、鲁棒性和跨输入的结构变异分离。
与已有工作不同的是，本文的独特切入角度在于将工作流结构本身作为首要比较对象。以往的综述将工作流作为系统支架、工程抽象或应用特定的协调方案来研究，而本文将结构作为优化的核心对象。具体来说，本文提出了三个关键区分：第一，模板（可复用设计对象）、实现图（某次运行实际使用的结构）和执行轨迹（执行过程中产生的行为记录）的三重区分，澄清了一个方法到底在优化什么；第二，GDT和GPM两个轻量描述符，解决了灰色地带的分类问题（如离线训练但推理时动态生成的系统）；第三，统一的质量-成本分析框架 $R(\tau; x) - \lambda C(\tau)$，使得表面上不同的方法可以在同一公式下比较。本文还系统整理了77篇文献（39核心、7相邻、31背景）和27个评估资产，建立了可比较的分类卡片，使方法可以沿稳定维度而非论文特定描述进行比较。
核心方法
本文的方法不是提出一个新的技术算法，而是建立一个系统化的综述框架来组织和理解LLM工作流优化这一快速发展的领域。直觉上，可以把本文想象成给一个混乱的图书馆建立索引系统——原来每本书（论文）都有自己的命名方式和分类逻辑，本文则提供了一套统一的编目规则，让读者可以快速定位任何一本书的位置并与其他书进行比较。具体技术路线如下：首先，引入智能体计算图（ACG）作为统一抽象，将各种形式的LLM工作流（代码定义、DSL、JSON/YAML、显式图中间表示）统一到一个图表示下；然后，用三个核心区分（模板vs实现图vs执行轨迹、静态vs动态、节点级vs图级优化）建立分类体系；接着，沿三个正交轴（优化目标、证据来源、更新机制）对77篇文献进行系统分类；最后，提出评估协议和最小报告标准。整个框架的核心是一个质量-成本优化公式，它统一了看似不同的方法。
本文最核心的创新在于提出以结构确定时机（when structure is determined）作为主组织原则，而非传统的方法类型或应用领域。这一视角揭示了一个关键洞察：工作流优化方法的本质区别不在于它们使用了什么算法（搜索、RL、监督学习），而在于它们在什么时候、以什么方式改变工作流结构。具体而言，本文用两个正交维度刻画每种方法：图确定时间（GDT，offline/pre-execution/in-execution）和图可塑性模式（GPM，none/select/generate/edit）。这使得一些传统上被归为不同类别的方法可以被统一比较——例如，一个离线训练的工作流生成器和一个运行时子图选择器，虽然实现方式截然不同，但都是动态方法，只是GDT和GPM不同。这一分类还自然导出了设计指导：不同的任务异质性类型需要不同程度的结构可塑性——如果大多数实例属于已知模式库且主要在难度上不同，运行时选择/剪枝就够了；如果不同查询需要真正不同的工作流结构，执行前生成更合适；如果执行中的观察会揭示一次性计划无法预知的信息，则执行中编辑成为必要。
方法步骤详情
本文的综述方法按以下步骤展开：第一步，建立概念框架（第2节），定义ACG模板 $\bar{G} = (V, E, \Phi, \Sigma, A)$、实现图 $G_{run}$ 和执行轨迹 $\tau$ 三个核心对象，引入GDT和GPM两个描述符，建立质量-成本优化公式。第二步，静态优化综述（第3节），覆盖离线模板搜索（AFlow使用MCTS搜索类型化算子图、ADAS在代码空间搜索、SEW用文本编码工作流自进化）、固定支架内的节点级优化（DSPy编译提示词/示例、OPRO/EvoPrompt/CAPO/GEPA等黑盒提示优化器）、结构与局部配置的联合优化（MASS交替优化拓扑和提示词、Maestro交替图编辑和节点更新）。第三步，动态优化综述（第4节），按可塑性递增的顺序覆盖选择/剪枝（Adaptive Graph Pruning、DAGP、AgentDropout）、执行前生成（Assemble Your Crew自回归生成DAG、G-Designer用VGAE学习图生成器、FlowReasoner用RL训练元控制器、Workflow-R1将构建建模为多轮决策）和执行中编辑（DyFlow交错设计者与执行者、AgentConductor基于YAML拓扑的迭代修订、MetaGen无训练的角色和边修订）。第四步，反馈信号与更新机制（第5节），按信号类型分类：指标/分数驱动、验证器驱动、偏好/排名信号、轨迹派生文本反馈。第五步，评估与报告（第6-7节），提出最小报告协议和设计权衡的实际指导。
技术新颖性
本文的技术新颖性体现在四个层面。第一，统一抽象的引入：ACG概念将散落在不同名称下的工作流（pipelines、orchestration graphs、communication graphs、plans、code-defined systems）统一到一个可比较的图表示下，使得结构本身成为首要比较对象。第二，三重对象区分：模板、实现图和执行轨迹的区分澄清了一个方法到底在优化什么——这在以往的综述中是没有的，大多数综述将工作流视为一个单一概念。第三，GDT/GPM分类体系：用两个正交的轻量维度（确定时间和可塑性模式）替代了传统的静态-动态二分法，能够精确刻画灰色地带（如离线训练但推理时动态生成的系统）。第四，最小报告协议：提出工作流论文不应只报告最终答案，还应报告使用了什么工作流、该工作流跨实例如何变化、获得该结果花费了多少成本。这包括9个维度：工作流表示、结构设置、模型和工具配置、离线优化成本、在线推理成本、轨迹统计、图级指标、鲁棒性测试、随机性和评估协议。
实验结果
本文通过对77篇文献的系统梳理，提炼出五个核心发现。第一，静态优化在三个条件同时满足时通常足够：算子空间足够约束以便搜索、评估器足够可信以便区分候选、部署工作负载足够重复以便值得优化可复用模板。在代码生成（有单元测试）或硬件生成（有强外部工具链）等领域，这些条件往往同时成立，此时精心搜索的模板可以优于临时运行时生成，因为它更便宜、更容易调试、更容易基准测试。第二，不同形式的运行时适应由不同类型的异质性任务所证明：如果大多数实例属于已知模式库且主要在难度或通信预算上不同，选择/剪枝通常是最合适的选择（如Adaptive Graph Pruning、DAGP可以节省20-40%的通信成本）；当不同查询需要真正不同的分解、通信模式或算子序列时，执行前生成更优；当环境交互性足够强、部分执行揭示了一次性计划无法预知的信息时，执行中编辑成为必要。第三，提示词优化虽然有价值，但不能替代缺失的结构——如果失败源于缺失验证、冗余通信、不充分分解或错误控制流，图级优化通常是更高杠杆的干预。第四，验证器在既便宜又有语义意义时回报最大：单元测试、模式检查、可执行性检查和可合成性检查尤其有价值，因为它们提供密集、可操作的反馈。第五，本文识别出5个开放问题：结构信用分配（最难的方法论问题）、表达性与可验证性的张力、工具和环境漂移下的持续适应、数据和基准质量、以及工作流优化理论的缺失。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| 工作流生成质量 | 图有效性和结构保真度 | WorFBench提供子序列和子图匹配评估 | FlowBench仅评估工作流计划 | WorFBench增加了结构感知评估能力 |
| 代码生成 | pass@k | AFlow使用MCTS搜索工作流模板 | 手工设计的固定流水线 | 自动化搜索发现更优工作流结构 |
| 多智能体协作 | 任务成功率与成本 | MASS联合优化拓扑和提示词 | 仅优化提示词（如DSPy） | 联合优化在拓扑层面发现缺失能力 |
| 通信效率 | 通信边数/消息量 | Adaptive Graph Pruning学习稀疏子图 | 全连接通信图 | 在保持质量的同时大幅减少通信开销 |
| 硬件验证生成 | 功能正确性+可合成性 | VFlow多级验证+合作进化 | 仅依赖下游成功率 | 多级验证提供更密集的反馈信号 |
局限与改进
本文的局限性可以从多个角度分析。首先，作为综述论文，本文的覆盖面受限于至少满足一个纳入标准的77篇文献，这可能遗漏了一些边缘相关的工作，特别是那些在非主流会议上发表但有重要贡献的论文。其次，本文提出的分类体系（GDT/GPM）虽然轻量灵活，但仍存在一些难以精确归类的灰色地带——例如，一个方法可能同时使用离线训练的生成器和运行时的编辑器，如何标记其GDT并不完全清晰。第三，本文的评估协议虽然全面（9个维度），但目前还停留在提案阶段，尚未在实际的基准测试中得到验证，其实际可行性和对可比性的提升效果有待检验。第四，本文主要聚焦于英语文献和主流ML/NLP社区的工作，对中国和亚洲其他地区的研究可能覆盖不足。第五，本文承认工作流优化领域缺乏理论基础——目前从搜索、程序合成、RL和双层优化借用工具，但缺乏关于何时动态生成是必要的、静态模板何时足够、以及样本复杂度如何随结构可塑性缩放的清晰理论。
独立分析的弱点
从独立分析的角度，本文存在以下可改进的弱点。第一，分类卡片的粒度问题：本文用6个字段（Setting、Level、Representation、Feedback、Update mechanism、Cost handling）描述每种方法，但一些重要的实现细节被压缩掉了——例如，同一类方法中搜索空间的设计差异可能比搜索算法的选择更关键，但分类卡片无法体现这一点。改进方向是增加一个搜索空间设计维度，区分类型化算子图、代码模板、DSL等不同表示的约束程度。第二，质量-成本公式的实用性不足：虽然公式 $R(\tau; x) - \lambda C(\tau)$ 在理论上统一了所有方法，但在实践中 $\lambda$ 的选择高度依赖具体场景，且不同成本维度（token、延迟、金钱）之间的换算关系不明确。改进方向是引入帕累托前沿分析，展示不同方法在多维成本空间中的权衡曲线。第三，动态方法的评估困境：本文指出动态方法应该在严格预算上限下测试，但目前文献中几乎没有统一的预算控制基准，导致不同方法在不同成本水平下比较，结论可能不公平。改进方向是建立标准化的预算约束基准，让方法在相同成本上限下竞争。第四，对实际部署场景的讨论不足：本文主要从算法角度组织文献，但实际部署中工程因素（延迟、可靠性、可维护性）可能比算法选择更重要。
未来方向
本文明确提出了五个开放问题和未来研究方向。第一，结构信用分配：这是最难的方法论问题——目前很难确定一个收益来自新边、新验证器、改变的角色提示还是仅仅更多的计算。需要更好的反事实重放、消融高效估计器和同时在轨迹和图上操作的评论器。第二，表达性与可验证性的平衡：具有循环、动态智能体创建和丰富条件的表达性工作流很有吸引力，但难以比较和静态验证。设计平衡表达性和可验证性的表示是最清晰的研究张力之一。第三，工具和环境漂移下的持续适应：API、网站和工具注册表会变化，静态模板需要修复，动态生成器需要漂移感知策略，但很少有论文报告适应效率。第四，工作流研究的数据和基准质量：如果基准泄露答案、参考工作流不一致或评估器奖励脆弱的技巧，优化会利用这些弱点。第五，工作流优化理论：需要关于何时动态生成是必要的、静态模板何时足够、样本复杂度如何随结构可塑性缩放的理论。基于本文的成果，还可以延伸研究方向包括：将ACG框架应用于更多垂直领域（如医疗、法律、金融）、开发自动化的GDT/GPM推荐系统、以及建立工作流优化的基准竞赛。
复现评估
从复现角度来看，本文作为综述论文，复现性体现在分类体系和评估协议的可操作性上。本文已在GitHub上开源了文献清单（https://github.com/IBM/awesome-agentic-workflow-optimization），这为后续研究者提供了可扩展的文献数据库。本文提出的分类卡片（6个字段）和最小报告协议（9个维度）都是明确定义的，可以被其他研究者直接使用来分类新方法。然而，复现本文的完整分类需要阅读和理解77篇文献，这本身就是一项巨大的工作量。对于本文综述的具体方法（如AFlow、ADAS、DSPy等），复现难度各不相同：基于搜索的方法（如AFlow）需要大量计算资源进行MCTS探索；基于RL的方法（如FlowReasoner）需要精心设计奖励函数；基于训练的方法（如WorkflowLLM）需要大规模工作流语料库。总体而言，本文的分类框架和评估协议是可复现的，且为后续研究提供了标准化的比较基础。
论文图表
