MobileVLA-R1 2.0:强化学习增强推理的移动机器人控制 MobileVLA-R1 2.0: RL-Enhanced Reasoning for Mobile Robot Control
用多粒度具身思维链与GRPO强化学习,把推理表征显式解码为移动机器人的任务级动作
前置知识
视觉-语言-动作(VLA)模型
将图像、深度等观测与自然语言指令作为输入、直接输出机器人动作的多模态大模型。典型做法是把视觉 token 与语言 token 拼接后送入 LLM 骨干,再由动作头或文本 token 形式给出动作,代表工作有 RT-2、OpenVLA、π0/π0.5 和 NaVILA。
MobileVLA-R1 2.0 本身就是一个 VLA 框架,理解其感知-推理-动作整体结构必须先掌握 VLA 的基本范式。
具身思维链(Embodied CoT)
在动作预测前让模型显式生成结构化中间推理(任务解读、空间决策、执行策略),用 … 标记,随后在 中给出动作。ECoT、CoT-VLA 等证明这类推理能提升长程任务可靠性,但推理与动作的连接通常是隐式的或靠规则解析。
本文的多粒度 CoT 数据引擎与推理条件动作解码器,正是为了把这种推理显式、可学习地对接到可执行控制。
GRPO(组相对策略优化)
一种无需价值网络的策略优化算法:对同一输入采样一组候选输出(本文 N=8),用奖励的组内均值和标准差做归一化得到相对优势 $\hat A=(r-\bar r)/(\sigma_r+\epsilon)$,配合 clip 与 KL 正则更新策略,出自 DeepSeekMath。
本文用 GRPO 做执行感知的强化优化,奖励直接评估推理轨迹诱导的动作质量,是性能提升的关键来源之一。
VLN-CE 与 SR/SPL/NE 指标
VLN-CE 把 R2R/RxR 的指令导航扩展到连续环境下的闭环设置。NE 是导航误差(米),SR 是成功率,SPL 是按路径效率加权的成功率,nDTW 衡量轨迹与参考路径的一致性,OS 为 oracle 成功率。
论文主实验(Tab. 2)全部用这些指标报告,不理解指标就无法读懂性能对比的意义。
System 1 / System 2 / System 0 分层
认知科学隐喻:System 2 指慢速审慎的推理与规划,System 1 指快速反应式决策,System 0 指本体相关的底层运动控制。本文把 CoT 生成对应 System 2、动作解码对应 System 1、机器人低层控制器对应 System 0。
这一分层是全文方法设计的组织原则,也是作者论证推理与执行解耦时的核心语言。
LoRA 低秩适配
冻结预训练权重、只训练注入的低秩矩阵的参数高效微调方法,本文对 LLaMA3-8B 骨干用秩 $r=16$、缩放 $\alpha=32$,使 8B 模型的训练在 4 张 H20 上即可完成。
论文的训练设置、算力描述与复现评估都建立在 LoRA 之上,读懂实验配置需要它。
研究动机
VLA 模型在移动机器人上要把高层语义决策持续落到物理控制中,而现有方法存在三重脱节。其一,推理隐式:RT-2、OpenVLA、π0/π0.5 等主流模型以观测到动作的直接映射为中心,中间决策过程不可见、不可监督,长程任务下容易累积偏差。其二,推理与执行连接脆弱:ECoT、CoT-VLA 等显式推理方法产出的是人类可读的文本解释,会议版 MobileVLA-R1 需要用确定性规则从生成文本中解析速度命令,一旦格式畸形、字段缺失或数值越界就执行失败——论文数据引擎的过滤统计显示,168K 原始生成中约 6% 格式不合法、约 7.5% 动作非法,正说明文本解析通路的脆弱。其三,本体耦合:移动操作和人形控制要求在同一任务内协调导航与物理交互,若策略直接预测形态相关的关节命令,就难以跨本体迁移。从结果看,QUARD 上 CLIP、VC-1 等视觉基座的平均成功率仅 0.25 和 0.28,强如 MoRE 也只有 0.60,说明语言引导的复杂移动控制远未解决。
本文的目标是本文要构建一个把结构化具身推理显式对接到可执行控制的 RL 增强 VLA 框架 MobileVLA-R1 2.0。具体目标有四:第一,学习多粒度具身推理,构建覆盖 episode 级(整段轨迹的总结与策略)、step 级(当前观测下的局部决策)和 navigation 级(长程空间决策)的 134K 推理标注数据集 MobileVLA-CoT,通过监督对齐建立多模态推理能力;第二,引入可学习的推理条件动作解码器,把观测与推理的隐式表征直接映射为任务级动作目标 $(V_x, V_y, \omega, \alpha)$——平面速度、偏航角速度加离散行为原语,交给机器人特定低层控制器执行,形成统一的感知-推理-动作接口并与本体解耦;第三,用 GRPO 做执行感知的强化优化,提高推理与动作的一致性;第四,在 VLN-CE(R2R-CE/RxR-CE)、QUARD 和 Unitree Go2、G1 真机上系统验证,且要求不使用任何 G1 轨迹、示范或标注就能迁移到人形移动操作。
与已有工作不同的是,本文的独特切入是把推理的内部隐式表征而非生成文本当作动作的条件。已有具身推理工作(ECoT、CoT-VLA、ACoT-VLA)的推理产出是文本或中间视觉目标,与动作的连接是隐式的或依赖规则解析;RL 增强工作(MoRE、ReinboT)聚焦动作生成本身,不显式建模推理过程。MobileVLA-R1 2.0 把自回归生成的推理 token 隐状态 $H^{rea}_t$ 与观测 token 状态 $H^{obs}_t$ 拼接为键值,用可学习查询做交叉注意力直接解码动作,形成一条可微、可学习的推理→动作通路;文本 仍保留,但只承担语言监督和格式感知 RL 的职责,不再负责执行。第二个独特性在动作空间设计:不输出关节命令,而是任务级的 $(V_x,V_y,\omega,\alpha)$,把做什么(语义决策)与怎么动(本体相关执行)分离,策略由此获得跨本体复用能力,直接支撑了零 G1 微调的人形迁移实验。第三,GRPO 的奖励是执行感知的——评估推理轨迹诱导出的动作与真值的余弦相似度、行为精确匹配和格式合法性,而非文本相似度。
核心方法
直觉上,这篇文章想让机器人先想清楚、再给出任务级目标、最后交给底盘和机械臂的控制器去执行。技术上采用 LLaVA 式架构并从 NaVILA(LLaMA3-8B 骨干)初始化:RGB、深度(DepthAnything V2 编码)与点云(Point Transformer V3 编码)经各自编码器和可学习投影层映射到共同隐空间,与语言 token 拼接后由骨干自回归生成 推理动作描述 的结构化输出。随后,推理条件动作解码器取观测 token 的上下文状态 $H^{obs}_t$ 与推理 token 状态 $H^{rea}_t$ 拼接为 $K_t=[H^{obs}_t;H^{rea}_t]$,用两个可学习查询 $q_{loc}$、$q_{beh}$ 分别做交叉注意力得到 $h^{loc}_t$ 与 $h^{beh}_t$,前者经回归头输出 $[\hat v_t,\hat\omega_t]$,后者经 softmax 输出离散行为原语 $\alpha_t$ 的分布。预测的任务级命令交给 Go2/G1 的固定低层控制器执行,构成 System 2(CoT 推理)→ System 1(动作解码)→ System 0(本体控制)的分层。训练分两阶段:先在 MobileVLA-CoT 上做监督对齐(先 episode+nav 级、再 step 级并联合优化解码器),再用 GRPO 以执行感知奖励优化推理策略,整个过程无需环境交互。
核心创新是推理条件动作解码器及其与 GRPO 的配合,本质区别在于执行不再依赖解析文本。已有方法要么直接输出动作 token,要么从生成的命令文本中按规则抽取数值(会议版 MobileVLA-R1 的确定性解析),后者把推理与执行的联系建立在文本格式的脆弱约定上。本文让解码器直接以 $K_t=[H^{obs}_t;H^{rea}_t]$ 为键值、以 $q_{loc},q_{beh}\in\mathbb{R}^{1\times d}$ 为查询:$h^b_t=\text{CrossAttn}(q_b,K_t,K_t)$,运动分支回归由 $\mathcal{L}_{loc}=\|\hat v_t-v_t^*\|_1+\lambda_\omega|\hat\omega_t-\omega_t^*|$ 监督的连续速度,行为分支分类离散原语 $p_\phi(\alpha_t|h^{beh}_t)=\text{Softmax}(D_{beh}(h^{beh}_t))$。文本输出仍保留以提供机器可解析的监督与格式奖励,但物理执行完全由解码器驱动。在此基础上,GRPO 阶段解码器冻结,充当稳定的推理→动作接口:策略每个输入采样 N=8 条推理轨迹,各自解码成动作后计算运动余弦奖励 $R_{mov}=\hat u^\top u^*/(\|\hat u\|_2\|u^*\|_2)$、行为精确匹配 $R_{beh}=\mathbb{I}[\hat\alpha=\alpha^*]$ 和格式奖励 $R_{fmt}$,用组相对优势强化能导致正确动作的推理,使 RL 优化的是推理-动作一致性而非表面文本。
方法步骤详情
第一步,数据构建:以 R2R(50K)、RxR(58K)、QUARD(262K)为源,用 Gemini-2.5-Flash 按任务模板生成带 / 的多粒度推理样本,经四阶段质检——格式校验(168K→158K)、动作校验(→146K)、安全与相关性过滤(→139K)、人工核验(→134K,含 18K episode 级、78K step 级、38K navigation 级)。第二步,监督对齐:先在 Episode+Nav 子集上训练长程推理,再在 Step 子集上训练推理-动作逐点对应并联合优化动作解码器;总损失 $\mathcal{L}_{SFT}=\mathcal{L}_{CoT}+\lambda_{loc}m_{loc}\mathcal{L}_{loc}+\lambda_{beh}m_{beh}\mathcal{L}_{beh}$($m$ 为掩码指示量),模态编码器冻结,训练投影层、LoRA($r=16$、$\alpha=32$)和解码器,3 个 epoch、4×H20 96GB、AdamW、学习率 $2\times10^{-4}$、余弦调度。第三步,GRPO:每个输入采样 N=8 条候选,速度按固定因子归一化后与真值算余弦奖励,总奖励 $r=\lambda_{mov}R_{mov}+\lambda_{beh}R_{beh}+\lambda_{fmt}R_{fmt}$(权重 1.0/1.0/0.2),组相对优势配 clip $\epsilon_c=0.2$、KL 系数 $\beta=0.04$、学习率 $10^{-6}$,单卡 H20 训 1K 步、每批 5 个样本,解码器全程冻结。第四步,部署:Go2/G1 机载完成感知、建图与低层控制,8B 骨干加解码器在远程 H20 推理,回传 $(V_x,V_y,\omega,\alpha)$ 执行。
技术新颖性
技术新颖性体现在三个层面。第一,接口层面:把推理条件化动作解码做成可学习模块,用双查询双头交叉注意力分别提取运动与行为信息,取代规则文本解析——消融证明同表征下可学习解码比确定性解析 SR 从 68.3 升到 69.8,且双查询设计优于单查询注意力(69.1)与均值池化 MLP(68.7)。第二,动作抽象层面:任务级动作 $(V_x,V_y,\omega,\alpha)$ 与本体固定控制器解耦,策略只决定做什么、控制器决定怎么动,这是在完全没用 G1 数据的情况下把 full-task 成功率做到 56.7% 的关键,是把分层控制思想务实地引入 VLA。第三,训练层面:多粒度 CoT 监督(SR 64.0→68.3)与组相对 RL(比 PPO 高 4.2 SR、4.8 SPL)组合,奖励逐项消融显示运动、行为、格式三种信号互补(58.0→68.3)。与 ECoT(纯文本推理)、CoT-VLA(中间视觉目标)、MoRE/ReinboT(RL 但无显式推理接口)相比,本文把推理表征到动作的映射作为一等公民来学习和优化,这是其最清晰的定位差异。
实验结果
导航(Tab. 2):R2R-CE val-unseen 达 SR 69.8、SPL 66.9、NE 3.86,较会议版 MobileVLA-R1(68.3/65.2/4.05)提升 1.5/1.7 点并降低导航误差,较此前最强单目 RGB 基线 CorrectNav(65.1/62.3)高 4.7/4.6 点;RxR-CE 达 SR 73.1、SPL 68.5、nDTW 77.6,全面领先。推理对齐控制(Tab. 3):QUARD 六个任务全部第一,平均成功率 0.76,较 MobileVLA-R1 的 0.70 高 0.06、较 MoRE 的 0.60 高 0.16,且越难的任务提升越大:Go-avoid +0.06、Go-through +0.07、Crawl +0.08、Unload +0.12。Go2 真机(Tab. 4,160 episodes):Workspace-Complex SR 从 0.91 提至 0.94、Corridor-Complex 从 0.86 提至 0.91,NE 从 1.23 降至 1.12/1.11,Outdoor-Complex SR 0.98;端到端延迟 205–245ms(约 4.1–4.9Hz),160 episodes 共 10 次失败,集中于目标定位、感知避障、过度转向、窄通道与漂移(Tab. 5)。G1 零微调迁移(Tab. 6,120 episodes):full-task 平均成功率 56.7%,较 MobileVLA-R1 的 46.7% 高 10 个百分点,条件操作成功率 Tabletop 79.4%、Shelf 74.2%、Cluttered 64.3%;失败以抓取(16 次)与操作执行(14 次)为主(Tab. 7)。消融(Tab. 8–17)逐一验证各组件:可学习解码器使 SR 68.3→69.8、GRPO 是最大单项增益(58.0→68.3)、多粒度 CoT 必要(64.0→68.3)、GRPO 优于 PPO 4.2 SR、Gemini 教师优于 LLaMA-3-8B 与模板、深度加点云使 SR 从 62.5 升到 67.2。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| 视觉语言导航 R2R-CE (Val-Unseen) | SR / SPL / NE | 69.8 / 66.9 / 3.86 | MobileVLA-R1:68.3 / 65.2 / 4.05;最强外部基线 CorrectNav:65.1 / 62.3 / 4.24 | 较 MobileVLA-R1:SR +1.5、SPL +1.7、NE −0.19;较 CorrectNav:SR +4.7、SPL +4.6 |
| 视觉语言导航 RxR-CE (Val-Unseen) | SR / SPL / nDTW / NE | 73.1 / 68.5 / 77.6 / 3.71 | MobileVLA-R1:71.5 / 66.8 / 76.1 / 3.92 | SR +1.6、SPL +1.7、nDTW +1.5、NE −0.21 |
| 四足控制 QUARD(六任务平均,每任务 25 episodes) | 平均成功率 | 0.76(Distinguish 0.95 / Go-to 0.92 / Go-avoid 0.77 / Go-through 0.72 / Crawl 0.66 / Unload 0.56) | MobileVLA-R1 0.70;MoRE 0.60;QUART 0.44 | 较 MobileVLA-R1 +0.06、较 MoRE +0.16,六个任务全部第一 |
| Unitree G1 人形移动操作(Tabletop/Shelf/Cluttered,120 episodes,零 G1 微调) | Full-task 平均成功率 | 56.7%(67.5 / 57.5 / 45.0) | MobileVLA-R1 46.7%;NaVILA 37.5% | 较 MobileVLA-R1 +10.0 个百分点 |
| Go2 真机闭环导航(Corridor-Complex 指令) | SR / NE(m) | 0.91 / 1.11 | MobileVLA-R1:0.86 / 1.23;NaVILA:0.67 / 1.76;GPT-4o:0.00 / 3.00 | SR +0.05、NE −0.12 |
局限与改进
作者承认的局限有三:其一,动作抽象停留在任务级,不显式建模接触动力学、灵巧操作与连续全身运动,抓取、搬运、放置实际由控制器侧固定例程完成;其二,训练数据仅覆盖 R2R/RxR/QUARD,虽然 G1 实验展示了零微调迁移,但未解决一般性本体适配,遇到形态、传感、环境差异大的平台性能可能退化;其三,8B 骨干依赖远程 H20 推理,网络开销与连接稳定性成为部署风险。我的补充观察:第一,相对会议版的提升只有 1.5–1.7 点,且真机规模有限(Go2 160、G1 120 episodes,每任务仅 5–10 次试验),提升的统计置信度存疑;第二,GRPO 完全离线,奖励是单步动作与数据集真值的一致性,而非导航到达或抓取成功等真实任务回报,优化目标与最终指标之间存在代理误差;第三,CoT 由 Gemini-2.5-Flash 生成,推理质量受教师模型约束,人工核验只去掉约 3.7% 样本,难以完全排除幻觉残留;第四,奖励消融显示行为奖励单项贡献最大(SR 61.9),侧面提示增益主要来自动作监督信号本身,推理是否带来超越动作监督的价值仍缺直接因果证据;第五,全部评测由作者自评,尚无第三方复现。
独立分析的弱点
独立分析五点弱点及改进方向。第一,操作能力是借来的:抓取/放置由固定例程执行,策略只选原语,遇到例程覆盖外的物体或姿态就会失败——G1 失败中抓取 16 次、操作执行 14 次正源于此;改进方向是引入参数化技能库、diffusion/flow 动作头或可微调的技能生成,让原语可组合、可适应。第二,奖励是开环的:GRPO 优化单步动作与数据集真值的匹配,不与环境交互,无法修复分布外行为;改进方向是把 episode 级任务成败(仿真中的到达/抓取判定)纳入奖励做在线或半在线 RL,或用 hindsight 重标注扩展正样本。第三,推理的价值缺乏因果性验证:Tab. 9 的 GRPO-only 变体已含动作解码器,缺一个强制沉默推理、打乱推理或用无效推理替换的长程任务对照,应设计此类实验量化推理表征的净贡献。第四,远程推理是单点依赖:205–245ms 延迟在 WiFi 波动时可能显著恶化,论文未给网络中断的降级策略;改进方向是量化/蒸馏出机载小模型,并设计边云协同降级(远程不可用时退回本地轻量策略)。第五,跨本体泛化只验证了 G1 一个平台,泛化声明偏弱,可在轮式、四足、双臂等多本体上联合训练并加入本体条件 token,检验任务级动作抽象的真实覆盖范围。
未来方向
作者提出的方向包括:用更丰富的参数化技能与分层全身控制提升动作表达力,覆盖精细接触与灵巧操作;开展更广的跨平台训练与在线适配,提升本体与环境覆盖;通过模型压缩、量化与蒸馏把 8B 骨干搬到机载,消除远程推理依赖;把框架扩展到灵巧操作、动态人机交互与更长程的开放世界任务。基于本文成果还可延伸:把执行感知奖励升级为可验证的长程任务奖励,在仿真器中对完整 episode 做 GRPO,弥合单步动作一致性与任务成功之间的差距;把 CoT 数据引擎与世界模型结合,让推理包含对未来观测的想象并在测试时用于规划与回滚;研究推理监督的缩放律与教师模型质量的边际收益(Tab. 15 显示 Gemini-CoT 比 LLaMA-3-8B CoT 高 2.1 SR),探索模型自举式的 CoT 改进与课程化粒度选择;在真实部署中引入不确定性估计与主动求助机制,降低失败 episode 的物理代价;并把失败诊断(目标定位、抓取、窄通道等类别)转化为针对性的数据采集与奖励设计闭环。
复现评估
复现条件较为友好但分层明显。代码与项目页已开源(GitHub: AIGeeksGroup/MobileVLA-R1-2.0),附录完整给出超参数、数据过滤统计(Tab. 18)与失败分析。数据侧:MobileVLA-CoT 由公开的 R2R、RxR、QUARD 加 Gemini-2.5-Flash API 合成,需要一定 API 费用,并需按论文四阶段流程重跑质检(168K→134K)。算力侧:SFT 需 4×H20 96GB 训 3 个 epoch,GRPO 单卡 H20 训 1K 步,8B 模型加 LoRA $r=16$,属于中高算力门槛,可用 A100 80GB 等替代。仿真评测(VLN-CE 的 R2R-CE/RxR-CE 与 QUARD)基于 Habitat 系模拟器,环境配好后可完整复现主表与大部分消融。真机部分门槛最高:需要 Unitree Go2(D435i + L2 LiDAR + Jetson Orin Nano)与 Unitree G1(RealSense + Inspire 灵巧手 + Orin NX),以及一台远程 H20 做 8B 推理,还要自行设计任务与计分协议。总体判断:仿真结果复现难度中等(约一到两周工作量),真机结果复现难度高(设备与协议成本大),核心消融结论在仿真侧即可验证。
论文图表
数据统计:R2R 50K、RxR 58K(导航监督)、QUARD 262K(具身控制监督),合成的 MobileVLA-CoT 包含 18K episode 级、78K step 级、38K navigation 级样本,共 134K 推理标注实例。
给出训练数据的规模与构成,并强调所有监督仅来自三个公开源数据集、不含任何 G1 数据。
与 20 余个 VLN 方法在 R2R-CE 与 RxR-CE val-unseen 上的对比:本文 NE 3.86/3.71、OS 71.2、SR 69.8/73.1、SPL 66.9/68.5、nDTW 77.6,在单目 RGB 方法中全面领先,超会议版 MobileVLA-R1 与此前最强 CorrectNav。
主实验表,量化验证推理条件解码器与 GRPO 带来的导航增益。
G1 三个场景结果:Tabletop 85.0/79.4/67.5,Shelf/Cabinet 77.5/74.2/57.5,Cluttered 70.0/64.3/45.0,Full 平均 56.7%,较 MobileVLA-R1(46.7%)提升 10 个百分点,且无任何 G1 微调。
论文最重要的真机结果,验证任务级推理-动作接口可零样本迁移到人形平台。
G1 120 episodes(68 次成功)的失败归因:抓取 16、操作执行 14、导航/定位 10、目标定位 8、低层控制 4;Cluttered 场景失败最多(22 次)。
失败分解揭示了当前架构的短板集中在操作执行端,是判断后续改进方向的重要依据。
无解码器且无 GRPO 时 R2R-CE SR 仅 58.0,仅解码器 63.1,仅 GRPO 68.3,两者结合 69.8(RxR-CE 61.4→66.0→71.5→73.1),GRPO 单项贡献更大。
量化两大核心组件的独立与联合贡献,说明二者互补而非冗余。