CEPO：提升多智能体系统提示优化的通用协调-执行框架 CEPO: A General Framework for Improving Prompt Optimization in Multi-Agent Systems
把多智能体提示拆成共享协调者+各自执行者，再用角色对齐指导优化，让现有提示优化器普遍变强
前置知识
提示优化（Prompt Optimization）
把自然语言提示当作可优化的参数进行自动搜索的方法：用优化器 LLM 根据训练样本上的失败反馈生成候选提示，再按验证集指标筛选并迭代。代表工作有 OPRO（把优化历史作为上下文让 LLM 提议新提示）、ProTeGi（利用“文本梯度”式反馈编辑提示）和 PE2（让 LLM 先解释提示为何失败再做针对性修改）。
CEPO 本身不是新的搜索算法，而是让这四个现成优化器在多智能体场景下更有效的“框架层”改进，必须先理解这些优化器的反馈-搜索机制才能明白 CEPO 插入的位置。
多智能体系统（MAS）
由多个 LLM 智能体组成的协作系统，各 agent 承担不同职责并通过中间信息传递完成复杂任务。例如论文主实验中的 MDocAgent 包含 GENERAL（初答）、CRITIC（批判）、TEXT（文本证据）、IMAGE（图像证据）、SUM（汇总成最终答案）五个 agent；DocAgent 则是 actor-reviewer-reflector 三角色结构。
MAS 既需要系统级协调（团队怎么配合）又需要 agent 级执行（各人怎么干活），CEPO 的核心主张就是这两类信息应拆成不同的 prompt 分别优化，不理解 MAS 的分工结构就无法理解这个拆分。
优化元指令（Meta-instruction）
写给优化器 LLM 的“关于如何优化提示的指令”，用来控制候选提示的生成方向。CEPO 设计了两套：协调者元指令 $\Phi_C$ 引导优化器关注跨 agent 沟通、冲突证据标记等团队级规则；执行者元指令 $\Phi_E$ 引导关注任务范围、证据使用和具体操作流程。
CEPO 的第二条原则“角色对齐优化”完全通过 $\Phi_C/\Phi_E$ 实现，Table 6 的交换实验（正确对齐 61.0 vs 反向 57.7）证明元指令是性能增益的关键来源之一。
LLM-as-judge 评估
用更强的 LLM（本文用 GPT-5-mini）作为裁判，把模型预测答案与参考答案对比，输出二值正确性分数（binary_correctness 0/1），用于文档问答等自由格式答案的自动打分，避免人工标注。
论文所有文档与视频基准的“准确率”都由此协议产生，理解这一点才能正确解读各表格数字的含义及其潜在偏差。
研究动机
多智能体系统的性能同时取决于系统级协调与 agent 级执行，但现有提示优化方法（PE2、OPRO、ProTeGi、MASPO 等）即便考虑了 agent 间的依赖，其更新对象通常仍是每个 agent 自己的那条完整 prompt——协调规则和任务执行指令耦合在同一段文本里。这带来两个具体问题：其一，修改一条共享协作规则（例如“与其他 agent 的结论冲突时要显式标记”）需要在多个职责各异的 prompt 中一致地改写，黑盒优化器很难保证这种跨 prompt 的一致性；其二，把多个耦合 prompt 一起丢给优化器会导致不稳定。论文用数据说明了后果：MDocAgent 在 MMLongBench-Doc 上基线准确率仅 54.1，用 vanilla PE2 逐个优化各 agent 的 prompt 只到 57.9，而在 3-agent 配置（GENERAL+TEXT+SUM）下 vanilla PE2 甚至掉到 47.5，比不优化的基线 52.2 还低 4.7 分，说明盲目优化耦合 prompt 既低效又不可靠。
本文的目标是本文要回答的核心问题是：“如何通过 prompt 的结构设计与优化指导，让现有提示优化器在 MAS 中更有效？”具体目标不是发明新的搜索算法，而是提出两个即插即用的设计原则：(1) 协调者-执行者提示分解——把每个 agent 的 prompt 拆成一条所有 agent 共享的协调者 prompt $p_C$（规定团队协作规范）和各自的执行者 prompt $p_E^{(i)}$（规定该 agent 如何完成本职任务）；(2) 角色对齐优化——为两层 prompt 配备不同的元指令 $\Phi_C$ 与 $\Phi_E$，让协调者朝团队级协作演化、执行者朝具体执行流程演化。期望达成的效果是：一次协调更新对所有 agent 一致生效，执行指令又能独立调整，从而在 11 个基准、4 个领域上一致提升四个不同的底层优化器。
与已有工作不同的是，本文的独特切入角度是改变“被优化的对象”而非“搜索的方法”。现有 MAS 提示优化工作（如 MASPO 融合下游交互与协调失败反馈、MAPGD 做协作式提示梯度下降、GPTSwarm 联合搜索拓扑与提示）都在优化器或搜索空间上做文章，但没有人把“系统级协调”与“agent 级执行”显式拆成两个独立的可优化参数。CEPO 把 prompt 集合从 $p=(p_1,\dots,p_N)$ 重新参数化为 $P=\{p_C, p_E^{(1)},\dots,p_E^{(N)}\}$，并给两层注入不同的优化先验——类似深度学习中分层设置学习目标。由于 CEPO 只规定“优化什么结构、给什么指导”，底层搜索仍可交给任意黑盒优化器，因此它与现有 MAS 专用优化器是互补关系而非竞争关系，这正是其框架级贡献的定位。
核心方法
直觉来自团队管理：一个团队的“协作守则”（如何分工、冲突如何上报）应该与每个人的“岗位手册”（如何完成本职）分开撰写与修订——改守则一次全员生效，改手册只影响个人，两类修订互不干扰。技术上，CEPO 把 agent $A_i$ 被调用时的有效提示定义为共享协调者提示与执行者提示的前置拼接 $\tilde{p}_i = p_C \oplus p_E^{(i)}$，整个 MAS 的优化目标从 $p^\star=\arg\max_p J(p)$ 重写为 $P^\star=\arg\max_{P} J(P)$，其中 $J$ 是在验证集上的系统级指标。底层搜索仍由现有优化器 $\mathcal{O}$ 完成，但分两层、配两套元指令：更新 $p_C$ 时用 $\Phi_C$ 引导团队级协作信号，更新 $p_E^{(i)}$ 时用 $\Phi_E$ 引导该 agent 的执行信号。默认调度是两阶段顺序式：先固定初始执行者、优化协调者 $T_C$ 轮，再固定选出的 $p_C^\star$、对用户指定的执行者子集 $I$ 逐一优化 $T_E$ 轮。文档实验用 PE2（GPT-5.4 为优化器）且 $T_C=T_E=3$。
核心创新是“协调-执行提示分解 + 角色对齐优化”两条原则的组合。与已有方法的本质区别在于：现有 MAS 提示优化把每个 agent 的完整 prompt 当作单个原子参数，协调规则与执行指令在同一字符串中被一起改写，跨 agent 的协调一致性只能靠搜索碰运气；CEPO 把共享协调提升为独立参数 $p_C$，一次更新即可对所有 $N$ 个 agent 同时生效（由构造保证一致性），并通过 $\Phi_C/\Phi_E$ 确保两层分别朝“团队该怎么配合”与“个人该怎么执行”演化。需要注意两点设计细节：两层 prompt 仍由同一个系统级验证目标 $J$ 选择，元指令只是软性指导而非独立数值目标；$p_C$ 是对所有 agent 前置拼接，因此协调更新天然不会出现“有的 agent 收到新版规则、有的收到旧版”的错位。消融实验证明了角色匹配本身的价值：正确对齐 61.0，完全反向 57.7，两层混用同一元指令为 58.1/59.1。
方法步骤详情
完整流程见论文 Algorithm 1。输入：MAS $f_S$（$N$ 个 agent）、训练/验证集 $D_{\text{train}}\cup D_{\text{val}}$、指标 $M$、底层优化器 $\mathcal{O}$、元指令 $\Phi_C/\Phi_E$、初始提示 $p_C^{(0)}$ 与 $\{p_E^{(i,0)}\}$（执行者用各系统官方默认 prompt，协调者由 GPT-5-mini 根据系统角色描述生成）、预算 $T_C/T_E$、执行者子集 $I$。Phase 1（协调者优化）：固定初始执行者，在 $D_{\text{train}}$ 上运行完整 MAS 收集失败反馈，迭代 $p_C^{(t)}=\mathcal{O}(p_C^{(t-1)}; \{p_E^{(i,0)}\}, \Phi_C, D_{\text{opt}})$ 共 $T_C$ 轮，每个中间结果连同初始 prompt 一起在 $D_{\text{val}}$ 上评分，取最优者为 $p_C^\star$。Phase 2（执行者优化）：固定 $p_C^\star$，对 $i\in I$ 按流水线拓扑序（GENERAL→CRITIC→TEXT/IMAGE→SUM）逐一迭代 $p_E^{(i,t)}=\mathcal{O}(p_E^{(i,t-1)}; p_C^\star, \{p_E^{(j,0)}\}_{j\neq i}, \Phi_E, D_{\text{opt}})$ 共 $T_E$ 轮，按验证分选出 $p_E^{(i,\star)}$；$I$ 之外的 agent 保留初始 prompt。MASPO 设置下则先优化协调者至多 4 轮，再固定协调者做两轮 Predictor、两轮 Reflector 并重复两次（每个执行者 $T_E=4$）。
技术新颖性
CEPO 的新颖性在于“正交的框架贡献”而非更强的搜索策略。具体有三点：(1) 结构化参数化——把 MAS 提示集合从扁平的 $\{p_i\}$ 变为双层 $\{p_C, p_E^{(i)}\}$，跨 agent 协调一致性由构造保证而非依赖搜索运气，这是对优化问题本身的重新表述；(2) 双元指令 $\Phi_C/\Phi_E$ 是给优化器 LLM 的软引导，与数值目标解耦，可无缝叠加到任意黑盒优化器上——Table 8 证实 PE2、ProTeGi、OPRO 三个通用优化器与 MASPO 这个 MAS 专用优化器全部兼容且全部获益（15 个优化器×基准组合零失败）；(3) 揭示了调度设计的经验规律——顺序调度优于交替调度（61.0 vs 60.1）、协调者优先优于执行者优先（61.0 vs 60.7，Table S6）。此外，预算效率分析很有说服力：CEPO 在 $T_C=T_E=1$ 时仅用 2 次优化器 API 调用、3,120 次 MAS 内部 LLM 调用就达到 60.1，超过 vanilla PE2 三轮（10 次优化调用、5,714 次 LLM 调用）的 57.9，说明增益来自结构而非算力堆叠。
实验结果
逐一分析各项实验。(1) 文档理解（Table 2）：MDocAgent+CEPO 在五个基准平均从 65.2 升至 69.5（+4.3），其中 MMLongBench-Doc 54.1→61.0（+6.9）、PaperTab 46.3→53.7（+7.4）、PaperText 72.1→76.4（+4.3）；DocAgent+CEPO 平均 70.0→72.7（+2.7），最大单项增益是 MMLongBench-Doc 的 59.5→67.4（+7.9）。(2) 数学与代码（Table 3，叠加在 MASPO 上）：五基准平均 72.85→73.89，较无优化基线 68.82 提升 5.07，其中 MBPP +8.31、HumanEval-ET +5.49、MATH-500 +4.50、AQuA +3.54，说明 CEPO 能补强本来就面向 MAS 的优化器。(3) 长视频（Table 7）：LongTVQA+ 上 LongVideoAgent 60.3→+PE2 63.4→+CEPO 64.9，较基线 +4.6、较 vanilla PE2 +1.5。(4) 优化器通用性（Table 8）：PE2/ProTeGi/OPRO×5 个文档基准共 15 个组合全部提升，增益 0.6~6.5 分。(5) 组件消融（Table 4）：仅加 LLM 生成的协调者 54.1→55.6，仅优化协调者 58.6，仅 vanilla PE2 优化执行者 57.9，CEPO 双层+角色对齐 61.0。(6) 元指令交换（Table 6）：正确对齐 61.0，反向 57.7，均用 $\Phi_C$ 58.1，均用 $\Phi_E$ 59.1。(7) 预算效率（Table 5）：CEPO(1,1) 用 2 次优化调用达 60.1 超 PE2(0,3) 的 57.9；PE2(0,6) 花 11,945 次 LLM 调用仅 57.4，CEPO(3,3) 用 11,458 次达 61.0；继续加预算到 (4,4) 反而降到 58.6（过拟合）。(8) 规模扩展（Figure 3）：agent 从 2 增到 5，CEPO 优势从 +3.9 单调扩大到 +6.9，5 agent 时达 61.0；vanilla PE2 非单调，3 agent 时（53.2）甚至低于基线（54.2）；CEPO 用 2 个 agent 就超过无优化 5-agent 的最好水平。(9) 长度控制（Table S8）：允许 PE2 生成 1410 token 长 prompt 反而降到 54.0（低于基线 54.1），CEPO 同等长度（1408 token）达 61.0，证明增益不是来自更长提示。(10) 协调者迁移（Table S9）：在 MMLongBench-Doc 上优化的 $p_C^\star$ 迁到其他四个文档基准平均 69.3，与域内优化 71.6 仅差 2.3，协调规则可跨数据集复用。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| 文档理解（MDocAgent，MMLongBench-Doc） | 准确率（LLM-as-judge） | 61.0（PE2+CEPO） | 54.1（无优化）；57.9（vanilla PE2） | +6.9（较基线）/ +3.1（较 PE2） |
| 文档理解（DocAgent，MMLongBench-Doc） | 准确率 | 67.4 | 59.5 | +7.9 |
| 数学推理+代码生成（MASPO，五基准平均） | 准确率 | 73.89（MASPO+CEPO） | 68.82（基线）；72.85（MASPO） | +5.07（较基线）/ +1.04（较 MASPO） |
| 长视频理解（LongVideoAgent，LongTVQA+） | 准确率 | 64.9（PE2+CEPO） | 60.3（基线）；63.4（PE2） | +4.6（较基线）/ +1.5（较 PE2） |
| 文档理解（MDocAgent，五基准平均） | 平均准确率 | 69.5 | 65.2 | +4.3 |
局限与改进
作者承认的局限：(1) 默认只优化单个执行者（$|I|=1$，选 GENERAL），联合优化多个执行者不升反降（Table S7：$|I|=4$ 时 57.5，$|I|=5$ 时 56.9，均低于单执行者的 61.0），多执行者联合优化被明确留作未来工作；(2) “先协调者后执行者”的顺序调度只是在本文档系统上验证过的实现选择，并非框架定义的一部分；(3) 文档基准因缺少训练集，采用了自定义的文档级 10/10/80 划分，测试集分数与官方全量有 -1.3 到 +1.8 的偏差（Table S1）。我自己的观察：(4) 优化成本高昂且存在预算上限——一次完整优化需 GPT-5.4 约 20 次调用加 MAS 内部 11,458 次 LLM 调用，且超过 (3,3) 就过拟合，根源是训练数据极小（MMLongBench-Doc 训练集仅 13 份文档、123 题），缺乏早停或正则机制；(5) 每个任务域/系统组合都要重跑优化流程，协调者虽能跨文档数据集迁移（差 2.3 分）但未验证跨域（如文档→视频）迁移；(6) 所有文档/视频评估依赖 LLM-as-judge（GPT-5-mini），裁判偏差会系统性影响所有对比数字；(7) 视频任务上相对 vanilla PE2 的增益（+1.5）明显小于文档任务（+3.1），说明增益幅度与任务/系统相关，并非处处 +5 分以上。
独立分析的弱点
独立分析几点弱点及其改进方向。(1) 共享协调者是单点瓶颈：五个异构 agent 共用一条 $p_C$，当不同 agent 需要相互冲突的协调规则时（如 TEXT agent 需要细粒度页码锚定而 IMAGE agent 需要整体视觉观察），共享规则只能写成折中版本；改进方向是引入分组/层级协调者（按模态或流水线阶段分 2-3 条协调 prompt），在一致性与特异性间取平衡。(2) 多执行者联合优化退化：$|I|\ge 2$ 时性能下降，因为执行者间有依赖（SUM 依赖前序所有输出），逐一固定更新会使后优化的 prompt 与先优化的错位；改进方向是引入带回溯的交替坐标下降，或借鉴 MAPGD 的协作式梯度思想让多个执行者感知彼此的更新。(3) 预算敏感且无早停：(4,4) 时从 61.0 跌到 58.6，13 份文档的训练集极易过拟合；改进方向是基于验证分数斜率的自适应早停、prompt 长度惩罚或对候选做多样性约束。(4) 元指令人工撰写：$\Phi_C/\Phi_E$ 由作者针对每类任务手工设计，换到新任务域需要重新创作，削弱了“通用框架”的宣称；改进方向是对元指令本身做元优化，或从失败轨迹中自动归纳。(5) 两层边界由人定义：某些混合规则（如“如何选择证据”）既算协作又算执行，归属模糊时可能导致重复或遗漏；改进方向是引入可学习的路由机制或三级分解（团队-小组-个人）。
未来方向
作者明确提出的问题：多执行者联合优化（Table S7 中 $|I|>1$ 无增益的现象）留作未来工作；协调者跨数据集可迁移（Table S9 仅差 2.3 分）暗示可以建立可复用的“协调规则库”。基于本文成果可延伸的方向：(1) 把双层提示参数化与拓扑/通信结构优化结合（如 GPTSwarm 类方法的图搜索），同时搜索“谁和谁通信”与“prompt 怎么写”；(2) 层级化协调（多级 coordinator）以支撑十级以上 agent 规模的系统，验证 Figure 3 的单调趋势能否外推；(3) 用 bandit/GNN（如 MASPO-B 的思路）自动选择目标执行者集 $I$ 与优化调度，替代手工的 GENERAL-only 默认；(4) 把协调者当作“协作先验”做预训练-微调：在大规模多任务上训练一个通用协调 prompt，再在下游 MAS 少样本适配，类比提示层面的迁移学习；(5) 在线/流式场景下随分布漂移增量更新协调规则，结合早停解决过拟合；(6) 理论层面分析协调-执行分离为何改善优化景观（例如降低参数间的耦合干扰、减小联合搜索空间的有效维度）。
复现评估
复现条件中等偏上。开源情况：论文承诺“接收后发布完整代码库”，当前版本（v1）尚未开源。数据全部公开：MMLongBench-Doc、LongDocURL、PaperTab/PaperText/FetaTab（UDA 套件）、AQuA、MATH-500、AGIEval-MATH、HumanEval-ET、MBPP、LongTVQA+；文档基准的自定义划分按文档级 10/10/80 固定种子构建，附录 Table S2 给出每份划分的文档/问题数。附录 C 非常完整：评估器 prompt（S10）、两类元指令全文（S11-S13）、初始与最终优化后的协调者/执行者 prompt（S14-S17）、元指令交换实验的对照 prompt（S18）全部列出，配合 Algorithm 1（仅 16 行伪代码）可以逐步对照实现。算力门槛：文档实验需要 GPT-5.4 作优化器（约 20 次调用）+ 约 11,458 次 MAS 内部 LLM 调用（GPT-5-mini API，或本地 8×H200 服务 Qwen-3.5-4B）；数学/代码沿用 MASPO 官方配置（GPT-5-mini 生成与评估候选）。工程实现本身很简单（prompt 拼接 + 两阶段循环），主要成本在 API 费用而非代码难度；等官方代码发布后，复现难度可评为低到中。
论文图表
左右两栏对比：(a) 先前工作 vs CEPO——先前方法把协调与执行耦合在每个 agent 专属的 prompt $p_1,p_2,p_3$ 内做角色无关的优化；CEPO 通过共享协调者 prompt $p_C$ 和各 agent 执行者 prompt $p_E$ 把两类功能表示为不同的可优化参数，并按角色指导更新。(b) 组件级对比柱状图：在 MDocAgent+MMLongBench-Doc 上，基线 54.1，vanilla 优化器 57.9，仅加提示分解 58.6，分解+角色对齐优化（完整 CEPO）61.0。
一图看懂论文的问题定义、两条设计原则及其各自贡献：既展示了耦合 prompt 的问题，又用数字证明分解和角色对齐两个组件缺一不可。
16 行伪代码：Phase 1 循环 $T_C$ 次更新协调者并在验证集上选出 $p_C^\star$；Phase 2 对子集 $I$ 中每个 agent 循环 $T_E$ 次更新执行者并选优；$I$ 之外的执行者保留初始 prompt；返回优化后的提示集 $P^\star=(p_C^\star, \{p_E^{(i,\star)}\})$。
给出了方法的精确实现规范，任何想复现或把 CEPO 接到自有优化器上的读者都需要以它为准。
附录中更细的预算扫描：CEPO 从 (1,1) 的 60.1、(2,2) 的 60.2 升到 (3,3) 的 61.0，继续加到 (4,4) 反而降到 58.6；同时列出每个配置的优化器 API 调用数与 MAS 内部 LLM 调用数。
给出预算-性能的完整曲线与过拟合拐点，是复现时选择超参数和估算 API 成本的直接依据。