← 返回 2026-06-02

多智能体计算机使用(MACU):用管理者模型将CUA任务分解为DAG并行编排 Multi-Agent Computer Use

Jing Yu Koh, Ruslan Salakhutdinov, Daniel Fried 📅 2026-06-01 👍 7 2026-07-13 08:36
DAG规划 任务分解 多智能体系统 并行执行 测试时计算 计算机使用智能体

用管理者模型将CUA任务分解为DAG,并行调度子智能体,提升长程任务成功率

前置知识

计算机使用智能体(CUA)

通过操作图形用户界面(GUI)与软件交互的智能体,通常执行标准ReAct循环:观察VM截图,产生推理轨迹和计算机动作(点击/输入/滚动)并在真实或虚拟操作系统上执行。前沿模型GPT-5.4在OSWorld基准上达75.0%成功率。

MACU的子智能体就是CUA,理解其ReAct黑盒循环是把握并行编排的基础。

有向无环图(DAG)

由节点和有向边组成且不存在循环的图。MACU中节点表示子任务,有向边表示依赖:节点仅在所有前驱完成后才进入就绪前沿(deps(v)⊆completed)可被执行。管理者可在运行时增删改节点。

DAG是MACU的核心数据结构,理解就绪前沿与重规划机制离不开它。

部分可观测性

智能体无法在任何时刻完整感知环境全部状态。计算机使用中,文件系统、后台进程、登录cookie、动态内容等关键信息往往无法被下游子智能体重新观察,MACU将其视为一等挑战并前向传递。

这是MACU区别于纯文本多智能体系统的核心理由,决定信息流设计。

ReAct循环

让LLM交替产生推理(Reasoning)与行动(Acting)的智能体范式。每个循环中子智能体观察VM截图,生成推理轨迹和计算机动作并执行获得新观察。MACU把子智能体的ReAct循环视为运行于隔离VM的黑盒。

理解子智能体黑盒接口才能理解管理者为何对模型无假设、即插即用。

pass@k指标

衡量采样k次至少成功一次的指标。MACU分析中pass@8指运行单智能体至多8次、用真实评估器判定成功即停止,是不公平基线(借用真实标签),但MACU在200步内仍优于它。

用于评估测试时计算扩展,是衡量MACU性价比的关键对照。

研究动机

当前的计算机使用智能体(CUA)几乎都采用单智能体串行部署范式:一个智能体按时间顺序逐步执行观察-思考-动作循环完成整个任务。这种范式在处理复杂的长程任务时存在根本性缺陷。首先是任务分解能力缺失——长程任务需要拆解为可独立完成的子任务,串行智能体无法有效规划这种结构。其次是缺乏并行执行能力,无法利用可独立子任务之间的并行性来加速。第三是缺乏基于新信息的持续重规划能力,一旦初始计划出错便难以纠正。实证数据印证了这些问题:在长程网页导航基准Odysseys上,单智能体(Qwen3.6-27B)成功率仅有8.5%;在复杂导航基准WebTailBench-v2上仅20.8%。即使在相对简单的OSWorld桌面任务上,单智能体也仅43.8%。这表明串行范式在任务变复杂变长时性能急剧下降,墙钟时间也因无法并行而高企(Odysseys单智能体中位达162.4分钟)。

本文的目标是本文的具体目标是提出一个通用、简单、可扩展的多智能体计算机使用(MACU)框架,直接攻克复杂长程CUA任务。更具体地说,目标包括四个层面:(1)任务分解——让管理者模型将自然语言任务指令分解为有向无环图(DAG)形式的子任务结构,显式编码子任务间的依赖与目标;(2)并行执行——在DAG的就绪前沿上并行调度多个CUA子智能体,每个运行于隔离虚拟机,提升吞吐与速度;(3)持续重规划——当子智能体返回新发现时,管理者动态修订DAG(增删改节点),将部分可观测环境视为一等挑战;(4)无缝集成新模型——框架对子智能体模型无假设,可直接受益于未来更强的CUA模型。作者期望通过这套机制在多个基准上稳定超越强单智能体基线,并展现更优的测试时计算扩展趋势,同时不牺牲简单任务上的性能。

与已有工作不同的是,本文的独特切入角度是把计算机使用的部分可观测性作为一等设计考量。绝大多数已有的多智能体LLM系统(如工具使用、代码智能体、数学/科学推理)都基于文本、在完全可观测环境中运作,而计算机使用是质的不同的领域:智能体作用于实时操作系统,其状态(文件系统、后台进程、cookie、动态内容)在任何时刻仅部分可观测,且对下游子任务关键的信息往往无法在原始子任务结束后被重新观察。MACU明确承认初始计划只是最佳猜测假设,需要随新信息持续修订。与Agent S2、CoAct-1、InfantAgent-Next等需要专用模块或低层动作专家的系统不同,MACU刻意保持简洁——仅用两类智能体:一个规划者和一组同构子智能体工作者,所有子智能体基于同一CUA骨干,因此能直接受益于更强的CUA模型,而不被专用模型锁死。

核心方法

MACU的整体思路是'把长程复杂任务交给一群并行子智能体,由一个管理者协调'。直觉上,人类处理大项目时会先拆解为可并行的子任务、分配给多人、再根据反馈调整计划;MACU把这套做法搬进CUA。技术路线上,MACU由一个管理者智能体协调运行于隔离虚拟机(VM)池中的CUA子智能体群,核心数据结构是有向无环图(DAG),节点是子任务。管理者在若干关键节点被调用:初始DAG分解、子任务完成后的重规划、文件管理、跟进、以及最终聚合摘要。每一轮,就绪前沿(依赖已满足的节点)上至多N个子智能体被并行派发执行标准ReAct循环。当子智能体返回新观察与证据,管理者被提示修订DAG,每次修订消耗一个重规划预算B单位。B耗尽则不再允许图编辑。最终叶子节点触发管理者聚合父节点结果生成给用户的回答。

核心创新是把CUA任务建模为可被管理者动态重写的DAG,并引入'就绪前沿并行派发+持续重规划'的闭环。这与已有方法的本质区别有三点:第一,相比Agent S2、CoAct-1等依赖专用低层动作专家模块的层次化方法,MACU只用两类同构智能体(规划者+工作者),所有工作者共享同一CUA骨干,因此框架随CUA模型进步而自然增强;第二,相比树搜索(如GUI tree search在每步做前瞻回溯),MACU在子任务粒度而非每一步做分解与回溯,搜索空间更小更高效,可看作树搜索的更一般推广;第三,MACU将部分可观测性作为一等约束,明确把'下游无法重新观察的信息'通过管理者与DAG前向传递,并允许用闲置并行能力做探索性重规划。重规划预算$B$与并行度$N$是两个关键超参。

方法步骤详情

MACU单任务运行(Algorithm 1):输入任务$T$、最大并行数$N$、重规划预算$B$。步骤1:管理者调用DECOMPOSE($T$)产出初始DAG(以JSON表示并校验),可利用起始VM截图。步骤2:初始化files/running/completed集合为空。步骤3循环:若DAG尚有未完成节点,计算就绪前沿$R=\{v: \text{deps}(v)\subseteq\text{completed}, v\notin\text{running}\}$,从中派发$N-|\text{running}|$个子智能体。步骤4:等待某子智能体完成或触发跟进钩子。步骤5:对每个新完成节点记录响应并调用FILEMGMT决定保留哪些文件diff;若$b<B$则调用REPLAN修订图并$b\mathrel{+}=1$。步骤6:若仍有闲置并行能力可选REPLAN做探索。步骤7:若就绪节点是final_aggregation则调用AGGREGATE汇总父节点结果返回答案。子智能体端执行标准ReAct:观察VM截图→生成推理轨迹与计算机动作→执行于VM,整个过程对管理者是黑盒。

技术新颖性

技术新颖性体现在:首先,这是首个面向通用计算机使用(而非纯代码/数学/工具)的简洁多智能体框架,把部分可观测的GUI操控纳入多智能体协调设计。其次,DAG作为开放结构允许管理者增、删、改、重连节点,远比固定模板灵活——Tab.5揭示了四种常见图模式:简单链(改GIMP主题)、map-reduce(5家餐厅信息汇总到表格)、运行时重试扩展(多搜索变体+管理者裁决)、重试链(不断重试直到成功)。第三,文件diff驱动的文件管理机制让跨子任务的产物(如Word文档转PPT)可被显式交接,是CUA独有的能力。第四,'闲置并行能力触发探索性重规划'的设计让并行度不再被DAG结构锁死。第五,框架对子智能体模型无假设的'即插即用'特性,被消融证明可随Qwen3.6-27B→35B-A3B等更强骨干获得更高成功率。最后,无需任何专用模型即可工作的极简设计,是相比Agent S2等的关键工程优势。

Overview of the setup for multi-agent computer use (MACU)
Fig. 1: Overview of the setup for multi-agent computer use (MACU)
Example Odysseys travel planning task with MACU
Fig. 2: Example Odysseys travel planning task with MACU
Algorithm for a MACU run on a single task
Algorithm 1: Algorithm for a MACU run on a single task

实验结果

主实验以Qwen3.6-27B为子智能体、Opus 4.6为管理者($N=4, B=10$),四基准全面提升:OSWorld 43.8%→48.5%(+4.7%)、Online-Mind2Web 52.2%→55.6%(+3.4%)、WebTailBench-v2 20.8%→29.5%(+8.7%)、Odysseys 8.5%→34.0%(+25.5%),任务越复杂可并行性越强增益越大。墙钟上Odysseys 162→110分钟(约1.47×加速)、OSWorld 26.6→21.4分钟,但偏串行的Online-Mind2Web反升至33.6分钟,说明并行收益需能抵消管理者调用开销。Fig.3显示单智能体早早平台化而MACU随动作数持续提升。消融:重规划预算$B$从0→10使成功率25.0%→58.3%,证明持续重规划是关键而非仅初始分解;MACU在200步内优于pass@8。管理者质量是性能上限关键:Opus 4.6达58.3%而弱管理者gemini-flash-lite仅36.1%增益甚微。增大并行度$N$还带来墙钟近3.2×加速与成功率提升。

Single vs. multi-agent success rate (SR) and median wall-clock time
Table 1: Single vs. multi-agent success rate (SR) and median wall-clock time
Results with varying planning budget B
Table 2: Results with varying planning budget B
Ablation results with different sized CUAs for subagents
Table 3: Ablation results with different sized CUAs for subagents
Manager model ablation with fixed CUA subagent model (Qwen3.5-4B)
Table 4: Manager model ablation with fixed CUA subagent model (Qwen3.5-4B)
Types of DAG created for different tasks from the different benchmarks
Table 5: Types of DAG created for different tasks from the different benchmarks
DAG statistics across benchmark runs
Table 6: DAG statistics across benchmark runs
Success rate of MACU against number of CUA actions executed
Fig. 3: Success rate of MACU against number of CUA actions executed
Comparison of MACU against pass@8 and single-agent baselines
Fig. 4: Comparison of MACU against pass@8 and single-agent baselines
Wall-clock time, success rate, and average rubric score on the Odysseys easy subset as a function of N
Fig. 5: Wall-clock time, success rate, and average rubric score on the Odysseys easy subset as a function of N
查看结构化数据
任务指标本文基线提升
OSWorld(369个Ubuntu桌面任务) 成功率SR(执行式评估) 48.5%(Opus 4.6管理者) 单智能体43.8% +4.7%
Online-Mind2Web(136网站300任务) 成功率SR(LLM-as-judge) 55.6%(Opus 4.6管理者) 单智能体52.2% +3.4%
WebTailBench-v2(609个跨站导航任务) 成功率SR 29.5%(Opus 4.6管理者) 单智能体20.8% +8.7%
Odysseys(200个长程网页导航任务) 成功率SR 34.0%(Opus 4.6管理者) 单智能体8.5% +25.5%
Odysseys墙钟时间 中位墙钟时间(min) 110.3 单智能体162.4 约1.47×加速
重规划预算消融(OSWorld子集) 成功率SR 58.3%(B=10) 25.0%(B=0,无规划) +33.3%

局限与改进

作者承认的局限:在偏串行任务上MACU的墙钟时间反而增加——Online-Mind2Web因任务序列化且管理者调用本身耗时,墙钟时间从18.5升至33.6分钟(+15.1),WebTailBench-v2也从39.0升至55.2分钟,说明并行带来的速度收益不足以抵消管理者重规划开销。其次,所有子智能体运行于隔离VM带来显著的API/算力成本(Tab.4显示Opus 4.6管理者单任务约$0.46)。第三,配置($N=4, B=10$)需要针对任务难度调参,长程任务的最优配置未必普适。我的额外观察:(1)主要增益集中在可分解、可并行的map-reduce类任务(如Odysseys旅游规划),对本质串行的GUI操控(OSWorld单步操作)增益有限(+4.7%),框架适用范围被任务结构所限;(2)重规划依赖管理者模型质量,弱管理者几乎无增益,意味着部署成本被绑定到昂贵的大模型;(3)实验未在真实生产负载下评估稳定性与故障恢复,VM隔离虽提升隔离性却也放大了资源消耗。

独立分析的弱点

弱点一:串行任务无收益甚至负收益。OSWorld与Online-Mind2Web这类本质串行的GUI任务,多智能体分解价值有限,且管理者重规划开销拖慢墙钟时间(Online-Mind2Web +15.1分钟)。改进方向是引入'任务可并行度自动探测',由管理者先评估DAG宽度,对窄任务回退为单智能体以省去管理者开销。弱点二:成本高昂。Opus 4.6管理者约$0.46/任务加上多VM并行,规模化部署昂贵。改进方向是用蒸馏的小模型做管理者,或对重规划做缓存/早停(检测DAG收敛后停止调用)。弱点三:管理者质量瓶颈。弱管理者(gemini-flash-lite)仅36.1%增益甚微,整体性能被管理者上限锁死。改进方向是作者提到的微调/强化学习,让管理者专门学习DAG分解与重规划。弱点四:固定超参$N$、$B$未自适应。改进方向是根据当前DAG剩余深度与宽度动态调整并行度。弱点五:仅评估成功率与墙钟,缺乏对失败模式(如子智能体相互冲突的状态污染)的系统分析。改进方向是引入子智能体冲突检测与回滚机制。

未来方向

作者明确提出的方向是用微调或强化学习训练管理者与工作者,使其专门擅长多智能体协调与交互,预计能进一步提升系统能力。基于本文成果可延伸的方向包括:第一,扩展MACU到更多模态(移动端、AR/VR、物理机器人操作),把DAG分解与并行重规划推广到更广的具身智能体场景。第二,研究'层级化MACU'——管理者本身也可递归分解为子MACU系统,作者已指出与递归生成子智能体相关,可探索多级DAG编排。第三,将MACU与GUI树搜索结合,在子任务粒度做前瞻与回溯,可能进一步榨取测试时计算。第四,探索'子智能体专业化'——保持骨干同构但让管理者通过指令注入不同'角色',研究角色分工的最优策略。第五,构建专门的MACU训练数据集与基准(类似本文分析的map-reduce、重试链等模式),系统评估不同DAG拓扑的效率。第六,研究低成本部署:用一个小型管理者模型+大工作者,或反之,寻找帕累托最优的成本-性能配置。第七,将文件管理与状态传递机制形式化为统一的'部分可观测状态令牌'协议,提升跨子任务信息流的可控性与可解释性。

复现评估

复现评估较乐观:作者声明在https://jykoh.com/multi-agent-computer-use发布全部代码与交互式可视化,并提供详细实验设置(Appendix A)与全部提示词(Appendix E)。核心组件Qwen3.6-27B子智能体、Opus/Sonnet 4.6管理者均可通过API或开源权重获取;基准OSWorld(369任务)、Online-Mind2Web(300任务)、WebTailBench-v2(609任务)、Odysseys(200任务)均为公开可执行的执行类基准,含评估脚本或LLM-as-judge流程。关键超参$N=4$、$B=10$已明确给出。挑战在于:多智能体需维护VM池(每子智能体一个隔离VM),硬件与基础设施成本高,墙钟与成本受集群负载噪声影响(Fig.5已声明排除推理开销)。此外LLM-as-judge评估本身有随机性,部分绝对值难精确复现,但相对趋势(多智能体>单智能体)应稳健。对有充足GPU/VM集群与API预算的团队,复现主实验趋势可行,难度中等。