从机群经验中学习:机器人集体学习范式 Learning from Fleet Experience: A Collective Learning Paradigm for Robots
让机群机器人共享部署经验改进共同策略,无需额外专家纠正动作,成功率提升至93.3-99.2%。
前置知识
VLA 与 π0(视觉-语言-动作模型)
VLA 模型把视觉观测、语言指令映射为机器人动作。π0 是一种基于流匹配(flow matching)的 VLA:策略 $\pi_\theta(A_t \mid o_t, g)$ 以观测 $o_t$(多视角图像+本体感知)和指令 $g$ 为条件,一次生成 H 步动作块(action chunk)。流匹配用向量场回归替代离散扩散,推理时可快速积分出连续动作序列。
本文所有算法都构建在 π0 之上:FERT 的检索编码器冻结了 π0 的视觉塔,微调目标是其条件流匹配损失,理解动作块生成机制才能看懂经验如何被回放学习。
模仿学习与 HG-DAgger
模仿学习从专家演示中拟合策略,但存在分布偏移:策略执行到训练分布之外的状态就会雪崩。DAgger 让专家在策略自身访问的状态上标注动作来聚合数据;HG-DAgger(human-gated DAgger)由人类监督员决定何时接管并给出纠正动作,更贴合真实部署。本文的 SFT→多机器人 HG-DAgger 初始化正是这一路线。
论文的核心卖点是在初始化之后不再需要专家纠正动作,因此必须理解 HG-DAgger 的成本结构(每个机群机器人都要配监控员)才能体会 CEL 范式的动机。
优先级经验回放(Prioritized Replay)
经验回放缓冲区存储历史转移供训练重复采样;优先级回放不再均匀采样,而是按每个样本的优先级 $P(i) \propto w_i$ 分配采样概率,常见做法用 TD 误差衡量样本价值。指数衰减 $w \leftarrow \rho w + \Delta$ 可平衡历史积累与新信息。
FERT 的第 4 步就是一套优先级回放:失败引导检索决定优先级增量 $w_i^{(n)}=\rho w_i^{(n-1)}+\sum_{R\in\mathcal{R}_n}|idx(A_i)\cap R|/H$,消融也集中检验 $\rho$ 等设计,不熟悉回放机制就读不懂优先级更新公式。
动态时间规整(DTW)与 S-DTW
DTW 在两个不等长序列间寻找最小累计距离的单调对齐,允许时间轴弹性伸缩。带斜率约束的子序列 DTW(S-DTW)进一步要求相邻匹配步进有界(如本文的 1 或 2 帧),并允许对齐在长序列的任意位置开始,适合在一条长成功轨迹中检索与短查询片段时间对齐的子段。
FERT 用 S-DTW 把失败上下文查询匹配到集体经验缓冲区中的成功片段,这是『失败引导检索』的数学核心,公式 (5)-(9) 全部围绕它展开。
异步 actor-learner 架构与容错分布式系统
把环境交互(actor)、推理和训练(learner)解耦到不同进程/机器,通过共享缓冲区交换数据,可避免同步等待最慢节点。容错设计关注:进程身份与陈旧数据识别、连接组纪元(epoch)重建、分层恢复(便宜的状态直接重启、昂贵的状态走检查点)。Ape-X、IMPALA、SEED RL 是这一方向的经典。
FATS 是论文的系统贡献,SwarmLink 数据平面与 HotSwarm 控制平面的设计完全建立在这些概念之上;96 台真机平均每 22 分钟就有一次故障,没有容错机制学习循环无法维持。
研究动机
机器人基础模型(如 π0 等 VLA)能提供初始操作能力,但物体属性变化、接触条件差异和个体机器人差异都会暴露能力缺口,多阶段任务中误差还会累积,初始能力并不能自动转化为可靠执行。已有改进手段依赖人工:专家演示(SFT)或专家纠正(HG-DAgger、HIL-SERL、RECAP 等)都要求远程操作员全程监控执行、识别失败并及时接管提供纠正动作。已有的机群学习系统(SOP、LWD 等)虽然把并行采集与人工监督结合了起来,但学习依然依赖新的专家动作——当机群从几台扩展到几十上百台时,操作员数量必须随机器人交互规模同步扩张,这在人力上难以为继。论文用数据说明了系统层面的痛点:在 96 台机器人的运行中,30 起故障影响了 22 台机器人,机群平均每 22 分钟就有一次故障事件,单台机器人每集耗时中位数从 0.6 到 4.2 分钟不等——人工既要监控失败、标注结果、重置环境,任何同步式设计都会让整个机群互相等待。
本文的目标是本文要建立一个学习范式:机群中部署的机器人把执行经验汇集起来改进一个共享策略,更新后的策略再分发回机群执行,形成『执行→经验→学习→再执行』的闭环,且在专家监督的初始化(SFT + 多机器人 HG-DAgger)之后,不再收集任何新的专家演示或纠正动作。人类只负责两件便宜的事:标注每集结果的二值成功/失败标签和重置环境;用于学习的动作全部来自机器人自身的成功执行。同时,作者要证明这个范式在真实硬件上可扩展:策略性能随机群规模增长而提升,并且分布式系统必须能容忍单机故障不拖垮整个学习循环。最终目标是在未参与训练数据收集的 held-out 机器人实例上验证高成功率,证明机群学到的策略能迁移到同平台的其他机器人。
与已有工作不同的是,本文的独特切入角度是把『经验选择』与『动作来源』解耦。此前方法要么用专家纠正动作作为学习目标(HG-DAgger 系),要么用强化学习从价值估计中导出优势(RECAP、RLT 等)。作者观察到:二值失败标签虽然不指明正确动作是什么,却精确指明了策略『在哪里』遇到困难;而机群的成功经验里已经包含了正确的动作目标。于是失败轨迹只用作检索查询(失败动作本身绝不作为模仿目标),用失败上下文去集体经验缓冲区中检索时间对齐的成功片段并提升其采样优先级——『成功提供模仿对象,失败决定学习 concentrate 在哪里』。这避免了学习价值函数、优势估计或奖励模型。此外,本文同时给出算法(FERT)与系统(FATS)两层实现,并用 96 台真机、最长 8 小时连续运行提供系统级测量,这在真机机群学习文献中规模罕见。
核心方法
整体思路有个直觉版本:机器人失败的地方,机群里别的机器人多半成功过——把成功经验找出来重点学即可。技术路线分两层。算法层 FERT(Failure-guided Experience Retrieval fine-Tuning)分四步:(1) 异步经验收集——机器人自主执行任务,成功轨迹连同二值标签存入集体经验缓冲区 $D^+$(滚动窗口),失败轨迹仅作为临时检索查询;(2) 经验编码——用冻结的 VLA 视觉塔提取每视图 $4\times4$ 池化视觉特征,与归一化关节状态分别 L2 归一化后拼接成检索表示 $z_t$;(3) 失败引导检索——取失败终点前 $L=90$ 帧、偏移 $\delta=10$ 帧作为查询,用带斜率约束的子序列 DTW(S-DTW)在每条成功轨迹中找最小代价对齐区间,选 $K=10$ 个最低成本候选并前后各扩展 30 帧;(4) 优先级微调——被检索命中的动作块按重叠比例增加优先级,按 $P(i)\propto w_i$ 采样,以负对数似然(实现上用流匹配损失作代理)更新策略。系统层 FATS(Fault-tolerant Asynchronous Training System)用数据平面 SwarmLink(分布式通道、共享云推理、轨迹流式组装)和控制平面 HotSwarm(工位/进程身份管理、分层容错恢复)把 96 台机器人和 6 台云服务器通过 30 Gbps 边云链路连成闭环。更新后的策略返回机群继续产生新经验。
核心创新是把二值失败标签变成『定向课程』而非『奖励信号』。与已有方法的本质区别有三点。第一,与 HG-DAgger/SOP/LWD 等依赖专家纠正动作的方法不同,FERT 的动作监督全部来自机群自身的成功执行,人类只贴二元结果标签,专家动作监督不随机器人数量扩展。第二,与 RECAP/RLT/HIL-SERL 等强化学习方法不同,FERT 不学价值函数、不做优势估计、不需要奖励塑形——论文附录 B 给出理论支撑:在分阶段任务模型下,若检索给高失败率阶段分配更多权重,则检索优先化相对均匀成功重放有一阶正贡献 $\kappa>0$,从而 $J(\theta_{\text{FERT}})>J(\theta_{\text{unif}})>J(\theta_0)$(Theorem 1),改进下界为 $\eta\mu+\eta\kappa-\lambda_J\eta^2\|G_{\text{FERT}}\|_2^2/2$(成功重放收益+检索贡献−有限步长惩罚)。第三,与 STRAP 等用目标演示做检索查询的方法不同,FERT 的查询来自机群自己的失败执行,天然跟踪策略当前的真实弱点;且优先级不需要任何学习到的价值估计。检索成本只决定选哪些区间、不缩放优先级增量,实现上极其简单:$w_i^{(n)}=\rho w_i^{(n-1)}+\sum_{R\in\mathcal{R}_n}|idx(A_i)\cap R|/H$。
方法步骤详情
FERT 的完整流程如下。【第 1 步:异步经验收集】输入是每台机器人自主执行的完整轨迹 $\tau=\{(o_t,a_t)\}_{t=0}^{T-1}$ 和人工标注的二值结果 $y(\tau)\in\{0,1\}$;成功轨迹连同嵌入缓存插入滚动窗口缓冲区 $D^+$,失败轨迹仅生成检索查询后丢弃,失败动作从不用作监督。插入、检索和优先级更新都安排在训练步之间完成。【第 2 步:经验编码】输入为多视角图像 $I_t^{(c)}$ 和关节状态 $s_t$;冻结的视觉塔(本阶段起点检查点)对每视图输出 $16\times16$ token 网格,经 $4\times4$ 核、步幅 4 的空间平均池化得 $4\times4$ 特征,按固定相机顺序展平拼接 $h_t=\mathrm{Concat}_{c=0}^{C-1}[\cdot]$,再与归一化状态分别 L2 归一化后拼接 $z_t=(h_t/\|h_t\|_2,\ s_t/\|s_t\|_2)$。成功轨迹嵌入在入库时算好缓存。【第 3 步:失败引导检索】对失败轨迹构造查询 $Q_\tau=(o_b,\dots,o_{e-1})$,其中 $e=T-\delta$、$b=\max(0,e-L)$(实验取 $L=90,\delta=10$,即 30 Hz 下约 3 秒上下文、终点前约 1/3 秒)。对每条 $\tau_s\in D^+$ 计算帧距离 $d_{i,j}=\|z_i^{\tau_f}-z_j^{\tau_s}\|_2$,S-DTW 约束每查询帧恰匹配一候选帧、相邻步进 $\in\{1,2\}$、起止自由,动态规划求最小归一化代价 $c^{\tau_s}=D^{\tau_s}_{M-1,j^*}/M$,回溯得区间 $[l,r)$;取代价最低的 $K=10$ 条,每条前后扩展 $h_{pre}=h_{post}=30$ 帧得检索集 $\mathcal{R}_n$。查询与候选先做 3 倍降采样,理论 9 倍、实测约 6 倍加速。【第 4 步:优先级微调】按重叠比例更新块优先级并衰减:$w_i^{(n)}=\rho w_i^{(n-1)}+\sum_{R\in\mathcal{R}_n}|idx(A_i)\cap R|/H$($\rho=0.88$),按 $P(i)=w_i/\sum_j w_j$ 采样批次,最小化 $\hat{\mathcal{L}}=-\frac{1}{|\mathcal{B}|}\sum_{i\in\mathcal{B}}\log\pi_\theta(A_i\mid o_i,g_i)$,流匹配实现中以其条件流匹配损失作似然代理。系统侧 FATS:环境 worker 在机器人端采集,推理/训练 worker 在云端;SwarmLink 用分布式通道把观测送共享推理池(批量满或超时即发送)、云侧按 worker/episode/step 标识组装轨迹(复用推理已收观测,交互流量优先于训练数据上传);HotSwarm 区分 station(绑定机器人/节点的固定工位,贯穿全程)与 worker(进程,随时可死),环境 worker 无限次原地重启(最多损失一集)、推理 worker 重启后加载当前策略、训练 worker 走周期检查点;重准入五步为:注销旧 worker→原工位起新 worker→在新纪元下重建连接组→重放该工位中断的调用→重置环境后恢复采集;worker 身份附着于所有可能存活的工件上逐一校验,过期动作直接丢弃,防止用错误的观测-动作对静默污染训练。
技术新颖性
技术新颖性可从四个维度评估。算法维度:FERT 首次把『失败上下文作为检索查询、成功机群经验作为动作目标』组合成免价值函数的学习规则——之前的检索类方法(Behavior Retrieval、GSR、STRAP)都用任务级专家数据或目标演示做查询,之前的优先化方法(PER、自模仿、AWR/AWAC)都依赖 TD 误差或价值估计,FERT 两者都不需要,且附带了把检索加权写成协方差 $\kappa=\mathrm{Cov}_{D^+}(\omega,u)$ 的局部改进理论(Lemma 1 证明均匀成功重放本身对期望回报对齐,$G_{\text{unif}}=\frac{\|v\|_2^2}{Tc}J(\theta_0)$;Lemma 2 证明分阶段任务下检索对齐条件蕴含 $\kappa>0$)。表示维度:检索嵌入用冻结的 VLA 视觉塔粗池化加本体状态,保证策略更新过程中查询与缓存嵌入空间一致,这是工程上让检索持续有效的小而关键的设计。系统维度:FATS 的『工位/进程分离+分层恢复+worker 身份校验』组合是真机机群学习里少见的完整容错方案——数据中心训练常用的全任务检查点恢复会让 96 台机器人每次单机故障全部停下,而 FATS 的原地重启把单次故障影响限制在一台机器人的一集数据。规模维度:96 台真机、9,834 个 episode、660 机器人小时的连续运行测量(故障后 10 分钟采集量中位数保持事件前 99%)本身即是社区此前缺失的实证证据。
实验结果
论文用五个真实双臂操作任务(插花、叠 T 恤、手机充电、凳子组装、手机包装)评估,所有学习策略在两台未参与训练数据收集的 AgiBot G2 机器人上各跑 60 次、共 120 次试验,报告 95% Wilson 置信区间。实验回答四个问题。(1) 能否超越初始化:多机器人 HG-DAgger 把五任务平均成功率从 SFT 的 36.3% 提到 81.0%,FERT 在不收集任何新专家动作的情况下进一步推到 97.3%,平均提升 16.3 个百分点、平均失败率相对降低 86.0%(Table 3);分任务看,Flower Arrangement 99.2%、Clothes Folding 98.3%、Phone Charging 97.5%(从 60.0%,相对失败率降 93.8%)、Stool Assembly 93.3%(从 81.7%)、Phone Packaging 98.3%(96 台机器人从 79.2%,相对失败率降 92.0%)。FERT 在全部五个任务上超过 6 名人类遥操作员的参考(120 次人工试验),平均领先 16.7 个百分点,最大差距在 Phone Charging(+25.8 pp)和 Phone Packaging(+23.3 pp)。与用人类纠正动作的两个基线比:对单机在线 RL 基线 RLT 平均高 12.3 pp(Phone Charging 上 75.8%→97.5%),对离线 RL 基线 RECAP 平均高 11.5 pp(Phone Packaging 上 75.0%→98.3%)。(2) 规模缩放:固定每台机器人的采集时长,FERT 成功率随机群增大总体上升——Phone Packaging 从 16 台的 86.7% 升到 96 台的 98.3%(+11.6 pp);而依赖人工干预的 HG-DAgger 在大机群下饱和甚至下降(Stool Assembly 出现回落),单机 HG-DAgger 在三个难任务上甚至低于 SFT 初始化,提示单机器人+单操作员数据过拟合。小机群下 FERT 也可能低于初始化(8 台时 Stool Assembly 和 Phone Packaging),作者归因于成功经验不足以覆盖各种失败上下文。(3) 消融(Phone Packaging、16 台,完整配置 86.7%):去掉失败引导检索降到 64.2%(−22.5 pp);检索段不扩展前后 30 帧降到 57.5%(−29.2 pp);策略同步间隔 100/500/1500 步对应 75.0%/86.7%/80.0%;优先级保留因子 ρ=0.8/0.88/0.95 对应 70.8%/86.7%/82.5%,呈中间最优。(4) 系统表现(96 台、约 8 小时、9,834 集):30 起故障、19 次故障事件、平均每 22 分钟一次,但事件后 10 分钟机群采集量为事件前的中位 99%、最低 88%;事故总损失 8.3 机器人小时,仅占 660 机器人小时的 1.3%;trace 回放显示同步轮次设计只能收集 33% 的数据量(轮次中位 9.3 分钟 vs 机器人典型周期 4.1 分钟),全系统重启 2/5/10 分钟分别只能保留 92%/86%/74%(解析模型预测 91.6%/81.3%/68.5%);通信上观测通道 Env-to-Rollout 95.18% 操作 20 ms 内完成,动作通道 83.15% 落在 200–250 ms,训练数据通道 99% 以上 2 分钟内完成,三个时间尺度差异验证了推理与经验传输解耦的必要性。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| Phone Charging(手机充电,多阶段+精确插入) | 任务成功率(120 次 held-out 真机试验) | 97.5%(FERT,16 台机器人) | 初始化 (M)HG-DAgger 60.0%;RLT 75.8%;RECAP 82.5%;人类遥操作 71.7% | 相对初始化 +37.5 pp,相对失败率降低 93.8%;超人类 +25.8 pp |
| Phone Packaging(手机包装,10 步多阶段) | 任务成功率(120 次 held-out 真机试验) | 98.3%(FERT,96 台机器人) | 初始化 (M)HG-DAgger 79.2%;RECAP 75.0%;人类遥操作 75.0%;16 台 FERT 86.7% | 96 台相对初始化 +19.1 pp(失败率降 92.0%);16→96 台 +11.6 pp;超人类 +23.3 pp |
| Clothes Folding(叠 T 恤,可变形物体) | 任务成功率(120 次 held-out 真机试验) | 98.3%(FERT,16 台机器人) | 初始化 (M)HG-DAgger 85.8%;人类遥操作 90.8% | +12.5 pp,相对失败率降低 88.2%;超人类 +7.5 pp |
| Stool Assembly(凳子组装,小物体+工具使用) | 任务成功率(120 次 held-out 真机试验) | 93.3%(FERT,32 台机器人) | 初始化 (M)HG-DAgger 81.7%;人类遥操作 80.8% | +11.6 pp,相对失败率降低 63.6%;超人类 +12.5 pp |
| Flower Arrangement(插花,柔性物体) | 任务成功率(120 次 held-out 真机试验) | 99.2%(FERT,16 台机器人) | 初始化 (M)HG-DAgger 98.3%(失败率 1.67%→0.83%) | 相对失败率降低 50.0%;超人类遥操作(95.0%)+4.2 pp |
| 五任务平均(对比两基线的学习后改进) | 平均成功率 | 97.3%(FERT) | RLT 85.0%、RECAP 85.8%(两者均使用额外人类纠正动作) | 对 RLT 平均 +12.3 pp、对 RECAP 平均 +11.5 pp,且在全部五个任务上均更高 |
局限与改进
作者明确承认的局限有三条:所有实验都是任务特定策略(每个任务单独训练),只有单一机器人平台(AgiBot G2 双臂),且运行周期有限、未验证跨更长运行时段的环境变化适应性;更广的任务分布、异构平台和长期部署是未来工作。我的补充观察:其一,人类并未完全退出循环——每个 episode 的成败标签和场景重置仍需操作员完成,96 台机器人的 8 小时运行实际占用大量人力(午餐停机 1 小时即中断采集),标签错误率和对重置一致性的敏感性论文未讨论;其二,理论保证(Theorem 1)依赖重放近似和分阶段检索对齐假设,只在局部一阶意义下成立,且不涵盖流匹配实现与离策略数据混用带来的偏差;其三,消融只在 Phone Packaging 一个任务、16 台规模上做,ρ=0.88、同步 500 步等超参在其他任务上的可迁移性未验证,且消融显示方法对这些超参相当敏感(ρ=0.8 掉 16 pp);其四,FERT 完全丢弃失败动作,对于缓冲区中没有相似成功经验的新型失败(如 8 台小机群的情形)无能为力,此时甚至可能低于初始化;其五,评估只覆盖同平台 held-out 实例的迁移,跨机器人本体差异(校准、装配)更极端的情形未测;最后,与 RECAP/RLT 的对比基于作者自己的复现适配(附录 G),超参调优对 baselines 是否公平难以从正文判断。
独立分析的弱点
弱点一:结果标注仍是人工瓶颈。二值标签看似便宜,但 Phone Packaging 有 10 个步骤、单集 2–3 分钟,误标会直接把错误成功经验注入缓冲区或把真实成功当失败查询,论文既未报告标注一致性也未做噪声标签鲁棒性实验。改进方向:训练一个视觉成功判别器(reward model)自动打标——论文 Figure 1 说明中已提到这是可行选项但实验未做;或引入主动学习,仅对判别器不确定的集请求人工复核。弱点二:场景重置是隐藏的人力成本与分布偏移源。操作员重置环境的摆放位置和姿态可能与策略自主执行后的混乱状态分布不一致,缓冲区中的成功轨迹多数始于整洁初始状态。改进方向:学习自动重置策略或把『从任意状态恢复』也纳入 FERT 学习目标(用失败轨迹的中间状态做扰动初始化)。弱点三:检索查询只用失败终点前的固定窗口(L=90 帧、δ=10 帧),对『失败根因发生在更早时刻』的任务(如 Phone Packaging 中前一步放歪导致后一步失败)会检索到错误上下文。改进方向:学习一个失败定位模块预测根因时间戳,或对多个候选窗口分别检索、按跨窗口一致性加权。弱点四:超参敏感性高且逐任务调参:消融显示同步间隔 100→500→1500 步带来 75.0%→86.7%→80.0% 的 11.7 pp 摆动,ρ 从 0.88 移到 0.8 掉 15.9 pp。改进方向:在线自适应 ρ(按失败率变化率调节保留强度),或基于元学习/梯度敏感性的自动超参选择。弱点五:小机群(8 台)下 FERT 可能低于初始化,说明方法存在最小经验覆盖量门槛,冷启动场景(新任务、新环境)缺乏保障。改进方向:小机群时混合少量演示回放或用仿真合成成功经验补充缓冲区覆盖。弱点六:理论与实现有缝隙——FERT 用流匹配损失代理似然,优先级以采样方式进入,Theorem 1 的协方差条件在非平稳滚动窗口缓冲区上是否近似成立未量化。改进方向:在受控仿真中测量实际更新与理论梯度的余弦相似度,检验检索对齐假设的经验有效性。
未来方向
作者提出的方向:把任务特定策略扩展到覆盖更广任务分布的多任务/基础策略(例如在 π0 级别的通用 VLA 上做 FERT 式持续改进);扩展到异构机器人平台,让不同本体的经验通过共享视觉-语言语义空间互通;研究更长运行时段内的环境非平稳性适应(物体损耗、光照季节变化等)。基于本文成果可延伸的方向:其一,自动化结果标注——训练跨任务成功判别模型,把人类角色从标注员进一步压缩为抽查员,这也是 Figure 1 说明中明确留下的口子;其二,检索机制的语义升级——当前 S-DTW 在低级视觉+状态空间检索,换成 VLA 中间层表征或语言化失败描述(VLM 生成『手机壳放反了』)做检索,可望覆盖语义级失败并跨任务复用经验;其三,把 FERT 优先级思想引入在线 RL——失败上下文检索到的成功片段天然是『优势标注样本』,可与离线 RL 或 HIL-SERL 类方法结合给出无 critic 的隐式优势;其四,FATS 系统层面的联邦化——目前机群在同一园区单一 30 Gbps 链路后,跨站点、跨机构的数据共享(不传原始图像只传嵌入与检索结果)是自然延伸;其五,理论与实证闭环——在仿真中系统检验 Lemma 2 的分阶段检索对齐条件何时成立,反过来指导检索窗口和扩展长度的自适应选择;其六,安全与干预策略——FERT 丢弃失败动作,但失败轨迹本身蕴含危险状态信息,可训练一个失败预测/风险头用于部署时主动求助,形成『机群学习+自动接管』的完整闭环。
复现评估
复现难度评估:高。论文未提及开源代码、模型权重或数据(项目页 cel-robot-learning.github.io 目前主要是介绍页);最核心的门槛是硬件——需要 AgiBot G2 双臂机器人机群(16–96 台)、6 台云服务器和 30 Gbps 专用边云链路,外加配套工位、任务道具和多名操作员,这是绝大多数实验室无法企及的资源配置;论文明确建立在 RLinf 基础设施之上(开源),π0 也是开源 VLA,这两块有公开实现可参考。数据方面论文未公开 9,834 个 episode 或五任务演示集。算力上训练使用 π0 级 VLA 微调(云端多 GPU,论文未给出精确 GPU 数量与型号),推理与训练分离的部署需自行实现 SwarmLink/HotSwarm 的等价物——论文对系统设计描述得相当细致(工位/身份/纪元/分层恢复语义都写清了),工程团队照着实现一个单机群小规模版本是可行的,但把 96 台规模的系统结果复现出来基本只有具备同类机群部署的机构做得到。对普通研究者而言,可以低成本复现的是算法部分:FERT 的检索+优先级回放可在 LIBERO 等仿真操作基准上用开源 π0 或 OpenPI 复现核心消融结论(尤其是检索带来的 22.5 pp 提升是否在仿真中再现),这将是检验方法本身有效性的现实路径。
论文图表
三栏对比图:左栏 SFT 从人类演示学习,中栏 HG-DAgger 从专家纠正的 rollout 学习(人类在策略失败时接管并给出干预动作),右栏 CEL 从机群集体经验学习——失败上下文作为查询、同伴成功经验作为动作监督,经集体经验缓冲区驱动策略更新。图底部标注:从左到右对专家动作监督的需求从高到低递减,并注明结果标签可由人工或学习到的奖励模型给出(本文实验用人工标签和环境重置)。
这张图一图道尽论文的定位:把 CEL 放进『演示→纠正→集体经验』的监督需求递减谱系中,读者先看它就能理解论文要解决的核心问题——专家动作监督无法随机群规模扩展。