智能体间应该传递什么信息？用于高效多智能体系统的动作状态通信协议 What Should Agents Say? Action-state Communication for Efficient Multi-Agent Systems
提出PACT协议，通过结构化动作状态消息减少多智能体系统的token消耗并提升性能
前置知识
Multi-Agent Systems (MAS)
多智能体系统是由多个自主智能体组成的协作框架，每个智能体可以独立推理、规划和行动，通过相互通信和协调来完成单个智能体难以处理的复杂任务。在LLM语境下，MAS通常涉及多个模型实例按照特定角色或时间表进行交互，形成协作链路或网络。
本文核心问题就是MAS中智能体之间的信息传递效率，不理解MAS的架构和通信机制就无法理解PACT协议的设计动机。
Token Consumption in LLMs
LLM的推理成本主要由输入和输出的token数量决定，每个token都会带来计算和API调用开销。在多轮对话中，历史消息会不断累积，下游智能体需要重复处理上游智能体的完整输出，这导致token成本在回合间呈指数级增长，可能耗尽上下文窗口限制。
本文研究的核心目标之一就是减少MAS中的冗余token消耗，理解token计费机制和上下文窗口限制是理解问题严重性的基础。
Action-State Paradigm
动作状态范式将智能体的输出抽象为三个关键组件：ACTION（采取的行动或需要下一步执行的操作）、STATE（支持该行动的观察、证据或环境反馈）、RESULT（行动产生的可重用输出结果）。这种抽象分离了做了什么、为什么做和产生了什么三个层次的信息。
PACT协议正是基于这个范式设计的，不理解这个概念就无法理解PACT如何从原始输出中提取和传递关键信息。
研究动机
当前基于大语言模型的多智能体系统在智能体间通信方面存在严重的效率问题。系统通常将智能体的完整自由形式输出（包括内部推理链、解释、冗余陈述等）直接传递给下游智能体，这些冗余内容在共享历史中不断累积，导致下游智能体必须重复处理大量无关信息。实验数据显示，在Sequential Pipeline设置中，传递完整内容的策略在所有模型尺度上都产生了最大的token消耗。例如，Multi-Agent Debate在Qwen3-32B模型上处理单个问题平均需要99,676个token，而PACT仅需要19,083个token，差距高达5倍多。这种冗余不仅浪费计算资源，还可能耗尽上下文窗口，最终影响系统性能。更严重的是，随着现代推理模型在多轮设置中的应用（如Claude Opus 4.7、GPT-5.5），这个问题变得越来越突出，因为长推理轨迹的重复处理会让token成本复合增长。
本文的目标是本文的核心目标是设计一个高效的多智能体通信协议，能够在保持或提升任务性能的同时大幅减少token消耗。具体而言，作者希望回答一个根本性问题：在多智能体系统中，一个智能体应该向另一个智能体传递什么信息？通过对不同通信策略的系统分析，作者提出了PACT协议，该协议将智能体间通信视为公共状态更新问题，在原始输出进入共享历史之前将其投影为紧凑的动作状态记录。实验结果表明，PACT在不同MAS拓扑结构和模型尺度上都能显著改善性能-成本权衡，平均减少38.7%的token使用量，同时保持或提升任务性能。
与已有工作不同的是，现有的多智能体系统研究主要集中在角色设计、轮换调度和工具分配等方面（如Wu等人在2024年提出的角色专业化、Du等人在2024年提出的对辩论机制），而对于智能体间消息的内容本身则大多留给无约束的自然语言形式。虽然Zou等人在2025年和Chen等人在2025年开始关注消息形状对准确性和成本的影响，但都缺乏系统性的分析。本文的独特切入角度是将智能体间通信明确定义为公共状态更新问题，首次提出了一个跨越不同MAS拓扑结构的通用通信协议。这种方法与以往的研究不同，它不改变智能体的内部推理过程，只控制哪些内容进入公共通信通道，因此可以作为独立于MAS脚本的通用协议应用。
核心方法
PACT方法的核心思想是将智能体间的通信从自由形式的自然语言消息转变为结构化的动作状态记录。直观上，当Agent A向Agent B传递信息时，B真正需要知道的是：A做了什么或需要B做什么（ACTION）、A的结论基于什么证据或观察（STATE）、A产生了什么可重用的结果（RESULT）。所有其他内容——比如A的内心思考过程、自我验证、尝试性假设等——都是私有计算，不应该进入公共通信通道。技术上，PACT在标准MAS的共享历史更新操作上增加了一个发送端投影函数ΠPACT，将原始输出yt转换为紧凑的公共消息ΠPACT(yt, ot, rt)，其中ot是本地观察，rt是角色或动作。这个投影函数提取并保留ACTION、STATE、RESULT三个字段，剔除中间过程级别的冗余内容，从而实现私有计算与公共通信的分离。
PACT的核心创新点在于将智能体间通信明确定义为公共状态更新问题，而不是让智能体随意传递自由形式的自然语言。与已有方法的本质区别在于：1）PACT不约束智能体的私有计算能力，智能体仍然可以进行完整的内部推理和规划，只有进入公共消息空间的输出才受到限制；2）PACT与标准的MAS设计选择正交，它不引入新智能体、不改变轮换调度、不训练压缩器、不假设特定的角色结构；3）PACT定义了共享历史的不变量：只有动作、基于证据的状态和可重用结果才被公开，而私有推理保留在智能体间通道之外。这种设计使得PACT可以作为一个轻量级的代理级干预应用到现有的生产级编程智能体系统中。
方法步骤详情
PACT的完整工作流程包含以下步骤：首先，在每一轮开始时，智能体接收其本地观察ot和共享历史Ht；其次，智能体进行完整的内部推理和规划，产生原始输出yt，这个过程不受PACT限制；第三，应用发送端投影函数ΠPACT，从yt中提取三个关键字段：ACTION（说明已采取的行动或下一个智能体应该执行的操作）、STATE（记录支持该消息的证据、观察、环境反馈或工具结果）、RESULT（包含行动输出本身，如检索到的事实、精炼的解决方案或工具调用结果）；第四，将结构化后的动作状态消息而不是原始输出追加到共享历史中；第五，下游智能体接收更新后的共享历史，其中只包含紧凑的动作状态消息和工具调用结果，而不是冗长的推理轨迹。在整个过程中，PACT作为代理钩子实现，包含两个组件：每个回合必须在工具调用前发出结构化的summary块，包含Action Required、Observed State、Planned Effect；在每个回合开始前，代理重写先前的助手消息，只保留summary块和工具调用，删除中间过程和自由形式的散文。
技术新颖性
PACT的技术新颖性体现在多个层面：从协议设计层面，这是首个明确定义多智能体通信不变量的协议，通过ACTION、STATE、RESULT三个字段建立了公共和私有信息的清晰边界；从实现层面，PACT设计为轻量级的代理级干预，不需要修改底层智能体循环或工具接口，这意味着它可以无缝集成到现有系统中；从实验层面，本文首次对不同MAS拓扑结构下的通信策略进行了系统性诊断分析，展示了没有固定策略是普遍最优的这一重要发现；从应用层面，PACT不仅适用于受控的MAS脚手架，还成功移植到了真实的编程智能体系统（OpenHands和SWE-agent），在SWE-bench Verified上分别实现了10.3%和47%的tokens-per-resolved减少，证明了协议的通用性和实用性。
实验结果
本文的实验结果在两个关键设置上验证了PACT的有效性。在分证据交互设置（Setting A）中，使用Qwen3-8B模型在HotpotQA基准上，PACT达到F1=69.9，平均每问题消耗6,704个token，优于所有基线方法：CoA的F1=68.6但消耗7,281个token，TextMAS的F1=59.5且消耗9,384个token，Multi-Agent Debate的F1=69.6但消耗13,520个token。在2WikiMultiHopQA上，PACT同样表现最佳：F1=68.7，消耗6,100个token。在顺序流水线设置（Setting B）中，使用Qwen3-32B模型，PACT在四个基准上的平均准确率为73.7%，平均每问题消耗19,083个token，显著优于TextMAS的68.0%准确率和32,762个token消耗，以及Multi-Agent Debate的73.6%准确率和99,676个token消耗。更重要的是，PACT展示了模型尺度效应：在Qwen3-8B到Qwen3-32B的尺度提升下，PACT在顺序流水线中的平均token使用量减少了21.1%（从24,187到19,083），同时平均准确率提升了4.2个百分点（从69.5%到73.7%）。这表明更强的模型能够更好地利用紧凑通信，而纯模型扩展无法解决通信低效问题。在真实编程智能体系统上的移植实验中，PACT在OpenHands上将SWE-bench Verified的解决率从19.40%提升到23.00%（+18个实例），同时tokens-per-resolved减少10.3%；在SWE-agent上，输入token从314.6M减少到156.0M（-50.4%），tokens-per-resolved减少47%，解决率仅从25.6%下降到24.2%。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| HotpotQA (分证据交互, Qwen3-8B) | F1 Score / Tokens | 69.9 / 6,704 | CoA: 68.6 / 7,281; TextMAS: 59.5 / 9,384; Multi-Agent Debate: 69.6 / 13,520 | 优于CoA 1.3 F1，token减少7.9%；优于TextMAS 10.4 F1，token减少28.6%；优于Multi-Agent Debate 0.3 F1，token减少50.4% |
| 2WikiMultiHopQA (分证据交互, Qwen3-32B) | F1 Score / Tokens | 61.3 / 4,039 | CoA: 56.3 / 5,339; TextMAS: 46.4 / 7,300; Multi-Agent Debate: 58.7 / 9,467 | 优于CoA 5.0 F1，token减少24.3%；优于TextMAS 14.9 F1，token减少44.7%；优于Multi-Agent Debate 2.6 F1，token减少57.3% |
| 顺序流水线四基准平均 (Qwen3-32B) | Accuracy / Tokens | 73.7% / 19,083 | CoA: 71.8% / 21,939; TextMAS: 68.0% / 32,762; Multi-Agent Debate: 73.6% / 99,676 | 优于CoA 1.9%准确率，token减少13.0%；优于TextMAS 5.7%准确率，token减少41.8%；与Multi-Agent Debate准确率相当，token减少80.9% |
| OpenHands on SWE-bench Verified (Qwen3-14B) | Resolved % / Tokens per Resolved | 23.00% / 3.43M | 19.40% / 3.82M | 解决率提升3.60个百分点（+18个实例），tokens-per-resolved减少10.3% |
| SWE-agent on SWE-bench Verified (Qwen3-14B) | Resolved % / Input Tokens | 24.2% / 156.0M | 25.6% / 314.6M | 解决率下降1.4个百分点，但输入token减少50.4%，tokens-per-resolved减少47% |
局限与改进
作者承认PACT主要适用于共享对话历史是token消耗主要来源的MAS设置，对于短交互或架构不重复暴露先前智能体输出的系统，其好处尚未充分探索。实验虽然覆盖了两种受控的MAS拓扑结构和两个编程智能体系统，但并未涵盖所有形式的多智能体协作，如开放辩论、重度工具规划或动态路由的智能体网络。此外，PACT假设智能体能够可靠地从自由形式输出中提取结构化的ACTION、STATE、RESULT字段，这可能不适用于所有类型的任务或模型。在实际应用中，代理钩子需要额外处理错误恢复和边缘情况，这增加了系统复杂度。最后，虽然PACT在大多数情况下保持了或提升了性能，但在某些场景（如SWE-agent）可能带来轻微的性能下降，这表明紧凑通信可能并非总是最优选择，特别是在下游智能体需要丰富上下文才能做出准确判断的情况下。
独立分析的弱点
PACT的第一个潜在弱点是它假设智能体间通信的主要成本来自于冗余的自然语言内容，但如果某些任务中看似冗余的内容实际上包含了对下游智能体有用的隐性信息，PACT的结构化提取可能会丢失这些信号。改进方向可以是开发自适应的PACT变体，根据任务类型动态调整保留的详细程度。第二个弱点是当前实现依赖于代理钩子进行消息重写，这增加了系统延迟和潜在的单点故障。改进方向可以是直接集成到智能体框架中，或开发更轻量级的消息过滤机制。第三个弱点是在某些复杂任务中，单个回合的ACTION、STATE、RESULT可能不足以捕获所有必要信息。改进方向可以是引入分层的动作状态表示，支持嵌套或多级的手off协议。第四个弱点是PACT的三字段设计可能需要根据具体MAS拓扑结构进行调整，没有提供针对不同架构的适配指南。改进方向可以是开发拓扑感知的PACT配置模板或自动配置机制。
未来方向
作者提出的未来研究方向包括扩展到更多形式的多智能体协作，如开放辩论、重度工具规划或动态路由的智能体网络。基于本文成果，可延伸的研究方向包括：1）开发学习驱动的PACT变体，使用强化学习或监督学习自动优化ACTION、STATE、RESULT字段的内容和格式；2）研究PACT在异构MAS中的应用，其中不同智能体可能使用不同的模型或能力；3）探索PACT与其他效率技术的协同，如模型压缩、上下文剪枝或智能缓存；4）将PACT思想扩展到人机协作场景，探索如何优化人类与AI智能体之间的信息传递；5）开发PACT的可视化和调试工具，帮助开发者理解和优化多智能体系统的信息流；6）研究PACT在不同领域的适用性，如科学推理、创意写作或医疗诊断等需要不同通信风格的场景。
复现评估
本文的代码已在GitHub上开源（https://github.com/iNLP-Lab/PACT），这为复现提供了良好的基础。实验使用了三个模型尺度（Qwen3-8B、Qwen3-14B、Qwen3-32B），这些模型都是公开可用的。评估基准包括HotpotQA、2WikiMultiHopQA、AIME2024、AIME2025、GPQA-Diamond、OpenBookQA和SWE-bench Verified，都是标准的公开数据集。实验设置了详细的参数（温度0.6、top-p 0.95、特定于基准的max_new_tokens），这些信息在附录A中有完整描述。然而，复现仍需要显著的算力资源，特别是大规模的Multi-Agent Debate实验和SWE-bench Verified评估。编程智能体系统上的移植实验使用了LiteLLM代理钩子，这可能需要特定的环境配置。总体而言，本文的复现难度中等偏上，主要受限于算力需求，但提供了足够的技术细节和开源代码支持。
论文图表
这张图展示了多智能体系统中自由形式消息在共享历史中累积的问题。图中显示上游智能体传递包含完整推理轨迹的长消息，这些冗余内容被下游智能体重复处理，导致token成本在回合间复合增长。图中的视觉表现清楚地说明了当智能体将完整的内部推理链（而不是精炼的信息）传递给下一轮时，下游智能体必须处理大量无关内容，这不仅增加了计算成本，还可能耗尽上下文窗口。
这张图对理解论文至关重要，因为它直观地展示了本文试图解决的核心问题——冗余的智能体间通信如何导致token浪费和性能下降。它为PACT协议的动机提供了清晰的可视化基础，帮助读者理解为什么需要一个结构化的通信协议。
这张对比图展示了在HotpotQA桥接问题上，同一交互回合在有PACT和没有PACT时的消息内容对比。没有PACT时，智能体传递了约480个token的自由形式消息，包含大量的内心推理、试探性陈述和冗余解释；有PACT时，消息被压缩到约40个token，只包含三个字段：需要First for Women的成立年份、Arthur's Magazine于1844建立的观察状态、以及比较两者的行动结果。对比显示PACT实现了约10倍的压缩，同时保留了相同的可行动内容。
这张图是理解PACT实际效果的关键，它用具体例子展示了PACT如何在保持信息价值的同时大幅减少token消耗。这比任何理论解释都更有说服力，帮助读者直观地理解PACT的工作原理和优势。