← 返回 2026-10-12

Reflex:视觉驱动的反应式人形机器人全身控制 Reflex: Visually Grounded Reactive Humanoid Control

Taoyang Jia, Weikai Huang, Linxin Song, Jared Darlington, Jieyu Zhao, Yue Wang, Jiafei Duan, Zhongzheng Ren, Ranjay Krishna 📅 2026-10-08 👍 47 2026-11-11 18:30
Sim-to-Real 人形机器人 全身控制 强化学习 特权学习 视觉反应控制

三阶段解耦训练,让人形机器人仅凭机载RGB-D视觉实时接住人类抛来的纸箱

前置知识

PPO(近端策略优化)

PPO 是最常用的 on-policy 强化学习算法,通过裁剪重要性采样比率的代理目标函数限制每次策略更新的步长,兼顾样本利用率与训练稳定性。本文在 Isaac Lab 仿真器中用 4096 个并行环境以约 28k 步/秒的速度跑 PPO 训练接箱策略,并采用非对称 actor-critic:critic 可以看到无噪声的全身姿态和箱子真值状态,actor 只能拿到与部署一致的运动观测。

论文三个阶段中前两个阶段的控制器都靠 PPO 训练和精调,奖励消融、初始化对比等核心实验也都是围绕 PPO 展开的,不理解它就看不懂训练流程。

AMP(对抗运动先验)

AMP 训练一个判别器来区分「策略自己走出来的运动」和「真实人体动作捕捉数据」,再把判别器得分当作风格奖励加进 RL 目标,使策略在完成任务的同时保持人类式的自然动作风格。本文把人类接物、持物的动作捕捉数据重定向到 29 自由度的 Unitree G1 上,与参考轨迹跟踪奖励配合使用。

消融实验(Table III)显示同时去掉跟踪奖励和 AMP 会导致训练彻底崩溃,它们是 Stage 1 能学出协调全身接物姿态的关键,也是「像人一样接球」观感的来源。

特权学习与 DAgger

特权学习指先用仿真器内部真值(如物体的精确位姿、速度)训练一个教师策略,再让学生策略从部署时可得的传感器输入模仿教师。DAgger 是其标准搭档:让学生自己开环滚出状态分布,由教师在学生访问到的状态上打标签并聚合进训练集,从而缓解模仿学习的分布漂移。RMA 是该思路在足式机器人上的代表作:冻结动作解码器,只训练视觉/适应模块预测教师的隐变量。

本文 Stage 2 用教师动作标签做 DAgger 聚合,Stage 3 用特权编码器给视觉控制器访问的状态标 latent 标签,两轮数据聚合都是这套机制。

域随机化与延迟随机化

Sim-to-Real 的标准做法是在训练时随机化仿真参数(抛掷初速与落点、接触摩擦、箱子颜色尺寸、观测噪声、丢帧),让策略学到对建模误差鲁棒的行为。本文更进一步随机化感知延迟:Stage 2 每回合从 1–3 个控制步(20–60 ms)中抽样观测延迟,让控制器学会补偿它被训练时的那档延迟。

消融显示延迟随机化在每个测试延迟上带来 5–11 个百分点的提升,而且真机硬件延迟中位数高达 69 ms,这个技巧直接决定了真机成败。

自中心视觉与自运动(ego-motion)

相机安装在机器人躯干上随机身一起运动,因此图像中观察到的运动等于物体真实运动与相机自运动的叠加;而且接近接触瞬间,机器人自己的手臂会越来越多地遮挡目标。本文显式地把 9 维自运动向量与从图像抽出的几何特征一起送入 GRU,让模型在视角剧烈变化和间歇性漏检下仍能推断物体运动。

视觉编码器消融(Table V)证明去掉自运动输入会损失 10.4–22.6 个百分点,去掉时序历史更损失 35.6–39.8 个百分点,这两个输入是视觉接地成败的分水岭。

研究动机

人能在约一秒内预判来物并用整个身体接住它——守门员侧扑、工人接住卡车上抛下的纸箱、伸手扶住坠落的水杯。人形机器人难以复制,因为三重难题耦合在一起:其一,29 自由度全身协调,脚步站位、躯干姿态、双臂拦截、冲击吸收与平衡必须同时完成;其二,反射式实时反应,真机测试中纸箱从抛出到抵达约一秒,而本文检测器管线的相机到控制延迟中位数达 69.1 ms(p95 为 90.2 ms),机器人不能只对最新观测做反应,必须在接触前推断轨迹并提前 commitment;其三,自中心视觉,相机随机身运动导致图像运动是物体运动与自运动的叠加,接近接触时手臂遮挡加剧。现有系统只覆盖了问题的一部分:机械臂接物回避了全身平衡与冲击吸收;人形守门员踢球、双手接篮球依赖动作捕捉或反光标记物而非机载视觉;轮式人形和四足接物同样靠外部定位;并行的 RGB 方案则没有报告真机成功率。任务本身也极难:三名人类接球手静止站立接 7 m 抛来的纸箱,成功率也只有 28.3%。

本文的目标是本文的目标是让 29 自由度的 Unitree G1 仅仅依靠躯干上的自中心 RGB-D 相机,接住并稳稳保住人类徒手抛来的普通无标记纸箱:身体要移到来箱路径上,用前臂贴住胸口形成支撑面,吸收箱子的动量并在不摔倒的前提下保住它。评估指标分三层:拦截(箱子在躯干附近减速到 1 m/s 以下,不要求保住)、接住成功(胸口区域支撑、双腕位于箱子两侧、不依赖头肩、保持低速 0.6 秒)、以及单独统计的躯干晃动(发射到回合结束时躯干俯仰是否达到 38°)与摔倒。量化期望是:仿真中视觉输入的成功率接近特权输入(论文最终做到 85.7% 对 87.9%),真机上接近人类接箱水平(2.5 m 和 5 m 分别达到人类的 76% 和 59%),并且接住的箱子能无缝交给下游的搬运-递交-返回控制器形成完整演示。

与已有工作不同的是,本文的独特切入是把「视觉反应式全身控制」拆解成三种能力,并用一个 8 维物体动力学隐变量(latent)串起来,而不是做端到端像素到动作的 RL。作者分析了端到端视觉 RL 的两难:每个 on-policy rollout 都需要高吞吐 RGB-D 渲染,而接箱奖励只在接触和保持之后才出现、信号极其稀疏,策略必须同时在巨大的视觉空间和 29 维动作空间里探索,感知表征学习与运动技能发现互相纠缠,感知模块一改就得重训控制器。此前的特权学习学生只需感知静态地形或慢速移动物体,从未在真机上处理过「快速穿越视野的物体 + 移动相机」的组合。Reflex 沿 RMA 的思路冻结动作解码器、只做 latent 回归,但更进一步:latent 本身由 PPO 塑形成「控制器恰好需要知道的东西」,实验证明回归这个学习出的 latent 比回归完整 26 维特权状态高 18.7–19.5 个百分点。此外,时序视觉历史与相机自运动这两个被许多流水线忽视的输入,被证明是性能的决定性因素。

核心方法

直觉上,Reflex 像在培养一名棒球捕手:先在「蒙眼」状态下练好接球的身体功夫(Stage 1,用特权仿真状态),再教他一套压缩版球路语言——系统只传给他 8 个数来描述来球动力学(Stage 2),最后拿掉他的特权眼睛,让他用自己的视力把这 8 个数实时看出来(Stage 3)。技术上:Stage 1 用 PPO 从特权状态学全身接箱,辅以重定向人类动捕的参考跟踪奖励与 AMP 风格奖励;Stage 2 训练特权编码器 $E_\phi$ 把 26 维延迟箱体观测压缩为 8 维 latent $z_t=E_\phi(p_t)\in[-1,1]^8$,通过可见性加权的动作匹配行为克隆初始化、DAgger 式数据聚合、再联合 PPO 精调编码器与解码器;Stage 3 训练视觉编码器 $V_\psi$,从 25 帧 192×144 RGB-D 历史和相机自运动回归出 $\hat{z}_t$,此时解码器 $\pi_\theta$ 完全冻结,以 50 Hz 输出 29 维关节位置目标。整个流水线把昂贵的 RGB-D 渲染隔离在 Stage 3 的监督学习里(仅约 160 万步),RL 阶段完全无渲染,因此 Stage 2 的 5900 万步 PPO 只需约 35 分钟。

核心创新是以「RL 塑形的动力学 latent」为接口的感知-控制解耦。与端到端视觉 RL 和传统师生蒸馏(直接回归物体状态)的本质区别有三点。第一,latent 的内容由强化学习决定:Stage 2 的 PPO 与动作匹配共同塑造 $z_t$,岭回归探针显示它主要编码延迟观测下箱体的位置与速度($R^2$ 分别 0.94–0.99 和 0.90–0.99),且部分补偿了观测延迟——对 80 ms 以上的旧观测,从 $z_t$ 能以 0.33 m / 1.5 m/s 的 RMSE 预测箱子当前状态,明显优于延迟观测本身的 0.6–0.7 m / 3.4 m/s;而尺寸、朝向、角速度几乎不编码($R^2\le 0.13$),因为解码器用不上它们。第二,解码器冻结:Stage 3 只训练视觉编码器,控制器一行不改即可换上视觉输入,这把视觉学习的代价压到最低,也让「改感知不必重训运动技能」成为可能。第三,「学什么」比「学多少」重要:26 维特权状态里包含解码器几乎不消费的朝向、角速度、尺寸等维度,强迫视觉模型回归它们会浪费容量并放大视觉误差,latent 回归因此比状态回归高 18.7–19.5 个百分点。

方法步骤详情

Stage 1(全身控制):输入 170 维状态观测(机器人/参考状态加 10 维箱体通道:骨盆系位置与线速度各 3 维、观测年龄 1 维、抖动/新鲜/冻结三个指示位),经硬件同款卡尔曼滤波并注入噪声、丢帧和延迟;MLP(512-256-128)输出 29 维动作,经 $q_t^{\text{nom}}=q^0+s\odot a_t$ 映射为关节目标;奖励含接近塑形、持握塑形、持续接住奖励、人类参考跟踪与 AMP,惩罚躯干晃动、指令突变和摔倒。Stage 2(动力学 latent):特权编码器 $E_\phi$ 把 26 维箱体观测(相机系位置 3、相对线速度 3、半尺寸 3、长短轴各 6 维朝向、角速度 3、可见性 1、归一化年龄 1)压到 8 维 latent;先用可见性加权(可见样本权重 5)的动作匹配 BC 初始化 latent 通路,再用 DAgger 聚合 latent 控制器访问的状态并由冻结教师打动作标签,最后联合 PPO 精调编码器与解码器,观测延迟每回合随机取 20–60 ms。Stage 3(视觉接地):CNN 预测箱体定位热图,固定几何层抽出 8 维特征(归一化图像坐标 2、两邻域局部最小深度 2、热图峰值分数 1、针孔反投影 3D 点 3),与 9 维自运动一起进两层 128 单元 GRU,输出 $\hat{z}_t$ 与辅助位置/速度;损失 $\mathcal{L}_V=\mathbb{E}[\omega_t(\ell_z+\lambda_{\text{aux}}\ell_{\text{state}})]$,其中 $\ell_z$ 按解码器敏感度权重 $\alpha_j$ 与训练集标准差 $\sigma_j$ 归一化各 latent 维度,$\lambda_{\text{aux}}=0.5$,近距样本 8 倍加权;再做 2–3 轮视觉 DAgger。部署时以 50 Hz 输出 29 维关节目标,下游接 SONIC 步行控制器完成抱箱行走与递交,MuJoCo 部署孪生负责切换检查。

技术新颖性

与已有工作的具体区别:(1)对接物研究,早期固定基座机械臂接物、冲击感知双臂接物、灵巧手接物都回避了全身平衡;人形守门员和接篮球系统依赖动捕或反光标记;轮式人形、四足接物以及并行的 RGB 方案要么不用机载视觉、要么没报告真机成功率——Reflex 首次在真机人形上用纯机载 RGB-D 完成全身接箱并给出成功率与人类对照。(2)对特权学习谱系:RMA 类学生的感知对象是静态地形,本文处理快速运动物体加移动相机加近距遮挡的三重困难,并把学生的回归目标从「物体状态」改为「RL 塑形的 latent」,这是对 RMA 范式的实质性推进而非套用。(3)训练工程上,把渲染彻底隔离出 RL 环路,使 59M 步 PPO 从约 11 小时压缩到 35 分钟,整个项目单张 RTX 3090 即可完成。(4)各训练技巧都有严格消融背书:动作匹配初始化 +5.2 点、延迟随机化 +5–11 点、热图监督 +7.4–10.9 点;作者同样诚实报告了 DAgger 与辅助状态损失在仿真中无可测增益,这种实证纪律在系统类论文中值得称道。

Training pipeline and policy architecture
Fig. 2: Training pipeline and policy architecture
Throw and appearance variations
Fig. 3: Throw and appearance variations

实验结果

仿真(Q1):视觉版 Reflex 在 3840 次抛掷中接住 3290 次(85.7%),特权 latent 输入同一解码器为 87.9%,视觉化仅损失 2.2 点。逐因素扫描(Table I):常规箱 88.8%,0.5/1/2 kg 载荷 91.2%/89.7%/77.7%,与状态策略持平;但小箱/大箱仅 25.5%/39.7%,对应拦截率却高达 58.1%/86.1%,暴露「尺寸失明」——身体到位却保不住。侧向偏移(Fig. 4)最亮眼:0.6/0.9 m 偏移下视觉成功率 66.6%/35.6%,反超真值状态策略的 54.1%/23.4% 约 12 点,证明收益来自 Stage 2 PPO 精调而非 Stage 1 上限。真机(Table II):常规箱 2.5/5/7 m 成功率 65%/40%/15%,人类参照 85.0%/68.3%/28.3%,即达到人类的 76% 和 59%;小/常规/大箱 20%/65%/45%;载荷 0.5/1/2 kg 为 45%/60%/30%;两侧偏抛 20 次接住 8 次。全身控制消融(Table III):完整目标 88.6%/76.1%(居中/偏移),去掉持握塑形偏移跌至 50.8%,任务奖励全去只剩 33.7%/2.7%,跟踪与 AMP 同去则训练崩溃,从零 PPO 仅 6.7%/0.2%。动力学学习(Q3):动作匹配初始化 +5.2 点(Table VII);延迟随机化在每个延迟档 +5–11 点,60 ms 处 72.7% 对 65.8%(Table IV)。视觉接地(Table V):单帧编码器 -35.6/-39.8 点,去自运动 -10.4/-22.6 点,状态回归替代 latent 回归 -18.7/-19.5 点;颜色增广把蓝/黑箱从 60.2%/61.2% 提到 88.0%/88.8%(Table VI)。同检测器对比中,学习 latent 在 13 个条件上全胜「检测+卡尔曼滤波」5.0–15.6 点。下游链路 20 次试验:接住 65%、搬运后 35%、递交后 30%、返回后 25%。

Catching across lateral landing offsets
Fig. 4: Catching across lateral landing offsets
Real-robot catching across throw distances, box sizes, payloads, and lateral offsets
Fig. 5: Real-robot catching across throw distances, box sizes, payloads, and lateral offsets
查看结构化数据
任务指标本文基线提升
仿真接箱(3.0–3.5 m,常规箱,3840 抛掷) 接住成功率 85.7%(自中心 RGB-D 视觉输入) 87.9%(特权 latent 输入同一解码器) 视觉化仅损失 2.2 个百分点,接近无损
真机接箱(Unitree G1,2.5 m,20 试/条件) 接住成功率 65% 人类三人参照 85.0% 达到人类水平的 76%
真机接箱(Unitree G1,5 m / 7 m) 接住成功率 40% / 15% 人类参照 68.3% / 28.3% 分别达到人类的 59%(7 m 处约 53%),7 m 为双方共同瓶颈
仿真侧向偏移 0.6 m 接箱 接住成功率 66.6%(视觉 latent) 54.1%(真值状态策略)/ 33.8%(YOLO 检测+状态策略) 反超真值策略约 12 个百分点
视觉编码器消融(居中 / 0.6 m 偏移) 接住成功率 完整编码器 85.2% / 66.6% 单帧编码器 49.6% / 26.8% 时序历史贡献 35.6 / 39.8 个百分点
感知延迟 60 ms(仿真注入) 接住成功率 72.7%(延迟随机化训练) 65.8%(无随机化训练) +6.9 个百分点(全部延迟档 +5–11 点)
颜色鲁棒性(蓝色 / 黑色箱) 接住成功率 88.0% / 88.8%(颜色增广后) 60.2% / 61.2%(无增广) +27.8 / +27.6 个百分点
Stage 2 初始化方式对比(六控制器均值) 视觉接住成功率 85.7%(动作匹配初始化) 80.5%(权重映射初始化) +5.2 个百分点

局限与改进

作者承认的局限:长距离视觉接地是主要瓶颈——5 m 抛掷既超出 Stage 3 的 3.0–3.5 m 训练数据,速度又快于任何训练抛掷(训练初速上限约 8.5 m/s,评估放到约 12 m/s),仿真成功率从特权输入的 79.7% 跌到 43.0%,真机 5/7 m 只有 40%/15%;把远抛数据加进 Stage 3 后仿真 5 m 可升至 75.8%,但尚未在硬件上验证。其次,只有单一任务、每条件仅 20 次真机试验,95% Wilson 置信区间宽达约 ±20 个百分点;控制器对箱子尺寸失明,小箱常被拦下却保不住;硬件延迟只在检测器管线上测量且中位数 69 ms 超过了训练随机化的 20–60 ms 范围;渲染未建模运动模糊与自动曝光动态。我的补充观察:部分训练出的检查点躯干晃动高达 72%(虽然该检查点接住率 91.7%),说明奖励并未显式约束姿态稳定,长期真机运行存在机械疲劳与安全隐患;下游链路成功率从 65% 逐级衰减到 25%,系统级可用性仍取决于衔接工程而非接箱本身;另外人类基线只有 3 人且「静止站立到抛出为止」,对真实运动中的人类水平估计偏保守。

独立分析的弱点

(1)远距离感知塌陷:Stage 3 只见过 3.0–3.5 m 抛掷,5 m 外的纸箱在 192×144 图像中只占十几个像素,热图定位与几何特征都退化,5 m 仿真掉到 43.0%。改进方向:距离课程学习加多尺度/局部裁剪渲染,或干脆按作者验证过的做法把 2.5–7 m 抛掷直接纳入 Stage 3 数据并上真机。(2)尺寸失明:$z_t$ 不编码尺寸,小箱拦截率 58.1% 但接住率仅 25.5%——身体到了、支撑面却合不拢。改进方向:在特权观测和 latent 中加入尺寸通道,或在接触瞬间用关节力矩/触觉在线估计并调整持握姿态。(3)真机评估统计功效弱:20 次/条件、±20 点区间,0.5 kg 对 1 kg 的差异(Fisher p=0.53)完全无法区分。改进方向:自动抛箱机加半自动评分,把每条件提到 50–100 次。(4)延迟预算错配:训练随机化 20–60 ms,真机检测器管线中位 69 ms、p95 90.2 ms,已落在训练范围之外。改进方向:把随机化上限提到 100 ms 以上,或换更轻的检测头、事件相机来压缩曝光到控制的延迟。(5)姿态稳定未约束:不同种子训练出的检查点躯干晃动从 1% 到 72% 不等,随缘性太强。改进方向:把躯干晃动作为 PPO 约束项(拉格朗日方法)或在奖励中显式惩罚。(6)下游衔接脆弱:65%→35%→30%→25% 的衰减主要发生在交接瞬间。改进方向:联合训练「接住-持握-步行」的切换策略,或让 SONIC 读取接箱控制器内部的保持状态作为共享接口。

未来方向

作者明确提出的方向:把「感知-动力学-控制」三段分解推广到更广的视觉反应式全身技能族——拦截、躲避、交接、物理辅助(如扶住倾倒的物体),latent 接口让换任务只需换控制器而保留已学好的感知模块。基于本文成果可以延伸:(1)把远抛数据纳入 Stage 3 并真机验证 5–7 m 场景(仿真已显示 5 m 可回升到 75.8%);(2)让 $z_t$ 从「描述当前动力学」升级为「显式预测未来轨迹与落点」,从而支持脚步的预规划而不只是手臂反射,这对 7 m 快速球是刚需;(3)物体泛化:把专用热图检测换成开放词汇检测器,测试 latent 接口对球、瓶等任意几何体的迁移能力;(4)感知端引入事件相机或音频线索进一步压缩延迟;(5)用视频生成或世界模型合成多样化抛掷来增广 Stage 3 数据,替代人工抛掷的数据瓶颈;(6)把躯干稳定、最小冲击力等人机共存安全指标写进目标函数,走向仓库抛接件、递送交接这类真实作业。整体看,这篇论文给出的「latent 接口 + 冻结解码器」是一个可以横向复用的骨架,值得在其他全身技能上验证其通用性。

复现评估

算力门槛出人意料地低:全部训练在单张 RTX 3090 上完成。渲染无关的 Stage 2 PPO 以约 28k 步/秒运行,5900 万步只需约 35 分钟;真正昂贵的 RGB-D 渲染只出现在 Stage 3(约 160 万步,1.5k 步/秒);热图 CNN 预训练 20 epochs(batch 32,lr 3e-4),时序 GRU 用 AdamW 训 60 epochs(batch 512,最大 lr 2e-3)。仿真基于 Isaac Lab(物理 200 Hz、控制 50 Hz、4096 并行环境),抛掷、尺寸(25×19×13 / 34×26×22 / 42×32×27 cm 三档)、延迟随机化的设置在论文中给出得相当细。硬件部分需要一台 29 自由度 Unitree G1、躯干安装的 RGB-D 相机,以及能稳定抛箱的人类实验员(人类基线为 3 人 × 每距离 20 次);下游还需 SONIC 步行控制器和一个人体检测模块。需要注意的是:论文正文未提及代码、模型或抛掷数据集的开源,真机复现者需自建抛掷与评分协议——好在接住/拦截/躯干晃动的判据在文中定义得很细(胸口支撑、双腕对侧、0.6 s 低速保持等),可操作性强。总体评估:仿真管线复现难度中等(主要门槛是 Isaac Lab 与 AMP 动作重定向的工程经验),真机复现难度高。

相似论文推荐