← 返回 2026-11-03

CoworkOS:面向真实世界自动化的协作智能体运行时系统 CoworkOS:Scaling Agent Coworkers for Real-world Automation

Jiajie Jin, Guanting Dong, Chengjun Pan, Xin Deng, Zhuohui Sheng, Guoqiang Wang, Tao Gui, Yutao Zhu, Yujia Chen, Shihong Yi, Binze Hu, Zhixiong Yang, Zhichao Sun, Rui Wang, Han Han, Mingyu Ma, Junhao Huang, Xiaotao Wang, Huicheng Jiang, Yuyang Hu, Xinyu Yang, Wanghan Xu, Yajie Yang, Zhecan Wang, Honglin Guo, Xiaoyu Xing, Xiaoqian Zhang, Yulun Zhu, Xiaoxi Li, Jiahang Lin, Shaofan Liu, Shihan Dou, Zhiheng Xi, Qi Zhang, Yu-Gang Jiang, See-Kiong Ng, Yang Zhang, Tat-Seng Chua, Ji-Rong Wen, Zhicheng Dou 📅 2026-11-02 👍 100 2026-11-09 18:30
Agent Harness 人机协同 多智能体协作 自动化后训练 递归自我改进 长时程任务

职责分离的三层智能体运行时,统一复杂交付、持续监控与自动化自我改进

前置知识

Agent Harness(智能体运行时框架)

包裹大模型的执行框架,负责工具调用编排、上下文与状态管理、执行反馈的回收与投递。同一个模型搭配不同 harness,在基准上的成绩可能有数十分差距,因此论文主张模型与 harness 必须共同演化。

本文本身就是一个 harness 系统论文,理解 harness 与模型的职责边界是理解其全部设计决策的前提。

主从式多智能体架构(Orchestrator–Worker)

一个主智能体(Main)负责任务分解、进度掌控与最终验收,多个子智能体(Subagent)各自持有独立上下文执行有界子任务,中间由协调器(Coordinator)负责调度、生命周期管理与消息路由,从而兼顾全局一致性与并行效率。

CoworkOS 的三层架构(Main / Coordinator Runtime / Subagents)正是这一模式的系统化实现,论文所有通信与状态机制都围绕它展开。

异步委托与收件箱(Inbox)机制

调用方发起异步任务后立即获得确认与标识,可继续其他工作;结果被持久化存入收件箱,在接收方下一个安全的模型决策边界处连同用户指引一起被消费,从而避免长时间阻塞主循环。

这是 CoworkOS 让『复杂交付』与『持续监控』统一在同一运行时的关键:Main 可以在等待数小时训练 Job 的同时处理别的事,事件到达再唤醒。

MCP(Model Context Protocol)

连接外部软件与智能体的标准化协议,第三方应用通过插件贡献工具、领域技能与工作流说明,并经适配器接入运行时;应用保留自身所有权与接口,会话可跨多次智能体执行而持久存在。

CoworkOS 应用生态有两条集成路径:平台管理的原生应用与经 MCP 接入的既有软件,理解 MCP 才能分清两者的能力与保障边界。

乐观并发控制(版本号冲突检测)

每次编辑需携带其读取时的基准版本号,提交时若与资源当前版本不符则返回冲突而非静默覆盖,被拒的修改保留下来供基于最新状态重新考虑,使多方并发编辑成为可审计的接受序列。

论文公式 (7) 的 Commit 规则是人机共享编辑同一工件(文档/CAD/Blender 场景)的核心保障,直接决定『人的直接修改也是任务引导』这一设计是否成立。

RSI(Recursive Self-Improvement)与自动化后训练

递归自我改进指系统主动参与优化自身能力与改进机制,改进后的系统再驱动后续改进,形成正反馈闭环。AI 自动化后训练是其代表性落地:智能体自主完成失败分析、数据合成、训练执行与效果评估的完整循环。

论文压轴实验用 CoworkOS 对 Qwen3.6-35B-A3B 做五轮自动后训练,这是检验『复杂交付+长时程监控』交集场景的终极用例。

SFT(监督微调)

用人工或模型生成的高质量示范轨迹(含指令、工具调用与结果)对模型做监督训练,使其学会目标行为模式;常作为后续强化学习或持续迭代的基础起点。

RSI 实验每一轮都通过 SFT 注入新合成的训练数据,理解 SFT 才能看懂 R0 种子基线与各轮『数据配方』变化的含义。

研究动机

当前智能体系统在两条需求线上割裂发展。其一是复杂生产任务:Claude Code、Codex、OpenHands、DeepSeek Harness 等编程与办公智能体已能交付软件、文档与设计,但这类任务需要密集的推理、工具调用与验证,甚至需要多个智能体的集体智能;其二是持续监控与决策:监控一次持续数天的模型训练、跨会话跟进一个项目、观察外部信息并在相关事件发生时决定是否行动。现有系统很少把两者统一:单主循环 harness 在等待长时间运行的任务时上下文容易膨胀或失守,跨会话、跨中断难以恢复进度。同时,人机协作大多停留在对话层——用户无法直接修改智能体正在编辑的同一份文档、CAD 模型或 Blender 场景,『以工件为媒介』的反馈回路缺失;跨智能体的工作文件、关键决策与运行日志也普遍无法共享与续用。

本文的目标是本文的目标是构建一个通用的长时程 cowork harness——COWORKOS,让单一智能体系统同时胜任复杂生产任务交付与持续监控决策,并把人类参与内嵌进自治执行:人既可通过对话引导,也可直接编辑智能体正在处理的共享工件,两条参与路径汇聚在同一个以演化工作为中心的应用生态里。系统需保证任务状态(工作文件、关键决策、长时间 Job 的状态与日志)跨智能体、跨会话可共享、可复用、中断后可精确恢复;并在 12 个基准与 6 类真实应用上达到与 OpenHands、Codex、DeepSeek Harness 等前沿 harness 相当的水平,最终以 RSI 自动化模型后训练验证其在两类需求交集处的极限能力。

与已有工作不同的是,本文的独特切入是『职责分离』作为架构公理:模型只负责任务策略——决定做什么、是否委托子代理、何时向人求助、是否验收结果;运行时 harness 负责执行管理——状态维护、反馈回收、调度与持久化。在此之上,论文把『人类与智能体共用同一演化工件』提升为一等公民:通过统一资源协议与原生应用适配器(文档、演示文稿、参数化 CAD、Blender),人的直接编辑与智能体的修改走同一条版本检查与历史记录通道。论文还把 cowork 场景形式化为任务复杂度与时间跨度两个维度(图 2a),指出 RSI 正是两者的交集,从而为长时程智能体系统提供了一个既复杂又持久的标志性验证场景。

核心方法

直觉上,COWORKOS 把『大脑』与『操作系统』分开:模型决定行动策略,运行时保证执行可靠。技术上采用三层架构。第一层 Main Agent 是对用户的唯一问责点:解释目标、在需要全局上下文时直接执行、决定委托与验收,其动作按 $a_M^t \sim \pi_M(\cdot \mid g, h_M^t, F_t)$ 从目标 $g$、交互历史 $h_M^t$ 与新反馈 $F_t$ 中采样;委托被定义为『证据契约』——指定目标、约束、能力授权与期望的证据形式。第二层 Coordinator Runtime 是控制平面:组装子任务上下文、管理生命周期,把委托请求、执行更新、消息与终止结果等事件持久化为状态 $\xi_{k+1} = F_C(\xi_k, e_{k+1})$,用队列、租约与确认机制保证投递跨模型决策与可恢复中断存活。第三层 Subagent 在隔离上下文中执行有界任务,返回贡献 $r_i = (y_i, P_i, \sigma_i)$——报告、输出引用与执行状态,使结果可审查而不必把整条轨迹搬回 Main。委托支持同步与异步两种模式,异步结果进入 Main 的 Inbox,在后续决策边界与用户指引一同被消费。

与已有方法的本质区别有三点。第一,分层委托+异步收件箱把『复杂交付』与『持续监控』统一进一个运行时:Main 可以在等待一个数小时训练 Job 时继续其他工作,Job 终止、外部事件或定时审查在安全决策边界唤醒它;确定性观察源脚本通过对比采样与保存基线来监测外部状态,无变化时不调用模型,实现『频繁观察、极少空转』,且挂起前 Main 必须登记活跃观察源或明确的复查时间,否则运行时拒绝该等待。第二,共享应用对象与资源协议:资源表示为 $r = (\iota, \kappa, x, v)$(身份、类型、应用管理的内容、已提交修订号),人与智能体的每次编辑都按 $\mathrm{Commit}(r, u, \hat{v}, \alpha)$ 提交——基准版本 $\hat{v}$ 与当前 $v$ 不符即返回冲突而非静默覆盖,人的直接修改因此成为『以工件表达的引导』而非另一条指令通道。第三,分层工作区+持久语义记忆+Job 持久化:Main 维护记忆文档记录目标、决策与下一步,上下文重建 $c_M^{t,\mathrm{task}} = \Phi_{\mathrm{ctx}}(m_T, \rho_T(t), d_T(t)) \oplus h_M^{t,\mathrm{recent}}$ 让跨会话恢复有据可依。

方法步骤详情

方法可分解为八步。(1)任务形式化:$T = (g, E, A, V, B)$,即目标、环境、动作空间、验收标准与资源预算;状态按 $s_{k+1} = F_E(s_k, a_k, u_k, \epsilon_k)$ 演化,其中 $u_k$ 是人类指令或直接编辑,$\epsilon_k$ 是外部进程变化;目标是在预算 $B$ 内最大化验收概率 $V(\tau) = 1$。(2)Main 规划:结合技能文档与完整工具集,决定直接执行、请求人类输入或委托。(3)委托组装:Coordinator 分配稳定 ID,构造子代理初始上下文 $c_{i,0} = \Phi_S(d_i, b(h_M^{t_i}), \Gamma_i, S_i)$,包含有界背景、授权工具 $\Gamma_i$ 与技能目录 $S_i$。(4)子代理执行:在隔离上下文中形成轨迹 $\tau_i$,可探索候选并自行验证,完成时返回报告、输出引用与执行状态。(5)通信:三条路径——Main→Sub 传递目标与中途纠正,Sub↔Sub 经 Coordinator 中转的异步对等通道解决接口依赖,Sub→Main 的终止结果经 Inbox 触发 Main 新回合;通信图为 $G_t = (V_t, E^{\mathrm{hier}}_t \cup E^{\mathrm{peer}}_t)$。(6)应用编辑:经资源协议做修订检查,子代理只能准备私有候选,由 Main 审查后再入共享工件。(7)持久化:任务状态 $z_k = (W_k, P_k, R_k)$ 分工作对象、进度记录与运行记录;后台 Job 保留身份与日志,回合完成时检查点保存消息轨迹与压缩摘要,重启后由监督者恢复。(8)记忆与压缩:阶段边界重建上下文(公式 10),决策上下文满足 $\mathrm{tokens}(c_k) \le L$,并维护区分实测指标与叙述性数值的实验台账。

技术新颖性

技术新颖性体现在组合与深化两个层面。编排框架(LangChain/LangGraph、AutoGen、MetaGPT)提供多代理通信与工作流组织,但不绑定持久共享工件;编程与办公 harness(Claude Code、Codex、OpenHands、DSH)以单主循环加沙箱为主,人机共编同一原生应用对象并非其核心设计。COWORKOS 的差异在于:(a) 把『模型定策略、运行时管执行』作为架构公理,Coordinator 的持久状态机(公式 5)让所有权与投递状态先于模型上下文存在,Main 从『操作性证据』而非假定的内存历史恢复;(b) 资源协议把乐观并发控制(公式 7)引入人机共编,使混合编辑成为可审计的接受序列,且子代理的探索性写入被隔离为候选、经审查入库;(c) Job、观察源、检查点、记忆重建构成完整的长时程状态栈,公式 9 显式约束决策上下文容量;(d) 用 RSI 自动后训练作为系统级压力测试,把 harness 的架构价值落到可量化的模型提升(+9.76 分)上,这在 harness 论文中少见。

The COWORKOS harness and its shared action space.
Figure 3: The COWORKOS harness and its shared action space.
Task workspace structure and collaborative editing.
Figure 4: Task workspace structure and collaborative editing.
Blender integration in COWORKOS.
Figure 5: Blender integration in COWORKOS.

实验结果

评测用 GLM-5.3(High thinking、256K 上下文、单响应最多 64K 输出),对比 OpenHands、Codex、DeepSeek Harness(DSH)。四个域共 12 个基准中,COWORKOS 每个域平均都进前二:Tool Use 平均 55.22(略低于 DSH 的 55.31),其中 SkillsBench 64.34 全场最佳,但 $\tau^3$-Bench Banking 49.48 落后 DSH 的 55.67,AutomationBench 51.83 逊于 DSH 的 53.50。Productivity 平均 57.54 第一(DSH 56.13),JobBench 59.88 与 GDPVal Elo 1164 均为最高,WorkspaceBench-Lite 67.14 次于 DSH 的 68.76,Harvey 22.74 与 OfficeQA Pro 65.90 居第二梯队。Search 平均 82.14(OpenHands 82.22),WideSearch 82.47 最佳、BrowseComp 81.80 逊于 OpenHands 的 83.00。ML Coding 平均 56.26 第一,MLE-Bench-Lite 76.90 与 MLS-Bench 35.62 均居首。压轴 RSI 实验:以 GLM-5.3 为控制器与数据教师,对 Qwen3.6-35B-A3B 先用 1,345 条工具交互轨迹做种子 SFT 得 R0,再经五轮『评估→能力差距诊断与数据管线修订→数据生成/验证/过滤→SFT→再评估』,八基准均值从 33.19 升至 42.95(+9.76):Automation +33.15(11.00→44.15)、SkillsBench +14.91(20.85→35.76)、BFCL v4 在 R4→R5 +9.07(63.48→70.83)、OfficeQA +6.47、Tau3 Banking +8.25、Harvey +7.75;7/8 基准超基线,6 项取得六轮最高。过程并非单调:R1 从基座重训且种子主导,R2 延续训练反使均值从 36.94 回撤至 35.90,复盘发现 42 条长轨迹占 84.2% 监督 token;R3 扩充至 558 条唯一轨迹、从 R2 检查点训 4 个 epoch 恢复到 39.22;R4 针对 453 条新轨迹强调逐项处理与约束检查;R5 把 function calling 提升到配方的 61.1%(203/332 条)后 BFCL 显著回升。24 个真实应用案例(4 网站、4 游戏、4 Office 演示、8 交互可视化、2 CAD、2 Blender)的定性比较显示 COWORKOS 在信息组织、状态可读性与装配细节上更优,例如 Courtyard House 房间卡聚合面积/尺寸/材质信息、Ridge Pack 能解释拒绝装箱的碎片化原因、CSA2 Attention 可视化的标签布局更清晰。

Benchmark evaluation across twelve tasks in four domains.
Table 1: Benchmark evaluation across twelve tasks in four domains.
Overview of 24 application cases produced with COWORKOS across six categories: frontend websites, games, Office presentations, interactive visualizations, CAD, and Blender rendering.
Figure 1: Overview of 24 application cases produced with COWORKOS across six categories: frontend websites, games, Office presentations, interactive visualizations, CAD, and Blender rendering.
Qualitative comparisons across 24 cases: (a) frontend websites, (b) games, (c) Office presentations, (d) interactive visualizations, (e) CAD, and (f) Blender rendering. Each case shows Codex, DeepSeek Harness (DSH), and COWORKOS from left to right.
Figure 6: Qualitative comparisons across 24 cases: (a) frontend websites, (b) games, (c) Office presentations, (d) interactive visualizations, (e) CAD, and (f) Blender rendering. Each case shows Codex, DeepSeek Harness (DSH), and COWORKOS from left to right.
Per-benchmark performance across R0–R5 in RSI-native automated post-training.
Figure 7: Per-benchmark performance across R0–R5 in RSI-native automated post-training.
Average score across eight benchmarks and key changes in RSI-native automated post-training.
Figure 8: Average score across eight benchmarks and key changes in RSI-native automated post-training.
查看结构化数据
任务指标本文基线提升
SkillsBench(工具使用-技能执行) 任务得分 64.34(全场最佳) OpenHands 63.30 +1.04
JobBench(生产力-业务任务) 任务得分 59.88(全场最佳) DeepSeek Harness 56.15 +3.73
GDPVal(生产力-专业工作) Elo 1164(全场最佳) DeepSeek Harness 1157 +7 Elo
WideSearch(搜索) 任务得分 82.47(全场最佳) Codex 82.05 +0.42
MLE-Bench-Lite(ML 编程) 任务得分 76.90(全场最佳) DeepSeek Harness 76.70 +0.20
MLS-Bench(ML 编程-实验执行) 任务得分 35.62(全场最佳) DeepSeek Harness 35.57 +0.05
Productivity 域平均(5 基准) 域平均分 57.54(第一) DeepSeek Harness 56.13 +1.41
ML Coding 域平均(2 基准) 域平均分 56.26(第一) DeepSeek Harness 56.14 +0.12
RSI 自动后训练(8 基准均值,Qwen3.6-35B-A3B) 平均分(R5 vs R0) 42.95 R0 种子 SFT 模型 33.19 +9.76(其中 Automation +33.15,SkillsBench +14.91)

局限与改进

作者承认的局限:基准分数只反映『实际所用的配置与执行上限』(附录 A.1),不同 harness 的轮数与时间预算差异会影响可比性;RSI 各轮是并发干预而非受控消融——论文明确声明『round index 不代表时间先后,描述的是同期干预而非孤立因果效应』;GDPVal 与 JobBench 全程波动,未给出稳定方案;$\tau^3$-Bench、AutomationBench、BrowseComp、Harvey、WorkspaceBench-Lite 上仍不敌对手。我的补充观察:(1) 24 个真实应用案例由团队自建自评,无盲评或第三方用户研究,定性优势难以量化;(2) 各基准未报告显著性检验与方差;(3) RSI 依赖 GLM-5.3 作为教师与控制器,token 消耗、算力与成本完全未披露,且每轮只报单点结果;(4) 失败模式(子代理死锁、冲突风暴、记忆漂移)缺乏系统量化;(5) 语义记忆只是单个 memory.md 文档加紧凑运行时视图,检索式记忆与遗忘策略未探讨;(6) 人机并发编辑的冲突处理停留在『返回冲突』层面,合并策略与用户体验未评估。

独立分析的弱点

独立分析的弱点与改进方向:(1) 评测的预算敏感性——各基准执行上限由各 harness 自行设定,强弱排序可能随预算变化翻转,应统一『等预算协议』并报告成本-质量 Pareto 曲线;(2) 定性评估主观——6 类 24 个案例是精选展示,宜引入盲评(隐藏 harness 名称)与多评审一致性指标;(3) RSI 归因模糊——R2 的回撤恰恰暴露了同时改训练起点、数据配比与重复策略的风险,应做一次只改一个变量的受控消融,并利用论文已有的实验台账做反事实重放;(4) 资源开销不透明——分层委托天然放大 token 消耗,论文缺少与单代理等任务的成本对比,应报告每任务的调用次数、token 与墙钟时间;(5) 通信保障较弱——对等通道非阻塞、回复可选,长链委托的失败传播与重试语义未形式化,可引入事务/补偿机制保证多步协作的原子性;(6) 记忆机制朴素——memory.md 是自由文本,长期任务中的记忆漂移、过期与检索精度需要专门基准(如跨会话问答)来检验;(7) 域平均把 GDPVal 的 Elo 换算成胜率再平均,混合量纲的聚合方式值得商榷,宜同时报告按基准原始分的排名。

未来方向

作者提出的方向:把 COWORKOS 作为通往通用 cowork-agent 智能的一步,坚持『模型与 harness 共同演化』,继续扩展应用生态与 RSI 闭环。基于其成果可延伸的研究:(1) 把 R2–R5 的诊断-配方决策从提示工程升级为可训练的 meta-controller,并用本轮产出的更强模型驱动下一轮迭代,形成真正的 RSI 飞轮;(2) 从 SFT 走向 RL:利用任务形式化中的验收标准 $V(\tau)$ 自动构造可验证奖励,让五轮流水线从『模仿教师』进化为『超越教师』;(3) 人机共编的冲突合并策略与实时协同 UI,超越『返回冲突』的保守处理;(4) 跨 Task 的技能沉淀与复用(SkillsBench 方向),让一个任务学到的技能文档服务后续任务并接受回归测试;(5) 为 Job 监控引入 SLO 与主动干预策略学习,减少被动等待;(6) 对 Coordinator 状态机做形式化验证与故障注入测试,量化队列/租约/确认机制的可靠性;(7) 建立 harness 无关的第三方评测榜单,检验架构收益是否随底层模型换代而保持。

复现评估

复现条件总体较好但参差不齐。代码开源于 github.com/RUC-NLPIR/CoworkOS,项目页 coworkos-ai.github.io 与 showcase.html 公开了 24 个可交互工件,使 harness 本体与定性案例的检查门槛较低。基准评测需要 GLM-5.3 API(High thinking、256K 上下文/64K 输出配置)以及 OpenHands、Codex、DSH 三个对比 harness 的受控环境,附录 A.1 声称给出了各基准的任务范围、评分流程与执行上限(正文未展开)。RSI 部分门槛最高:1,345 条种子轨迹与各轮新增轨迹(如 R3 的 558 条、R5 的 332 条)的发布情况未明确,GLM-5.3 与 Qwen3.6-35B-A3B 的可得性不明,训练算力、时长与成本未披露,BM25 去污染过滤的阈值参数也未给出。总体判断:复现 harness 与基准评测为中等难度,完整复现五轮 RSI 流水线为高难度;建议先跑通开源 harness,再挑选 1–2 个基准验证,最后视资源决定是否复现 RSI。

相似论文推荐