← 返回 2026-10-09

SuperNav:面向任意任务任意场景的智能体导航系统 SuperNav: An Agentic Navigation System for Any Task in Any Scene

Jinkai Zhang, Jingyi Xu, Yuanhong Yu, Jiarui Guo, Ruizhen Hu, Hujun Bao, Xiaowei Zhou, Sida Peng 📅 2026-10-08 👍 77 2026-11-11 18:30
具身导航 多模态大模型 智能体框架 机器人 零样本泛化

给预训练多模态大模型配一套导航智能体框架,零微调跑通任意任务与陌生场景

前置知识

MLLM(多模态大语言模型)

以 GPT 系列和 NaVid 为代表的视觉语言大模型,能同时接收图像与文本并输出推理和决策。它通过视觉编码器把图像转成 token,与文本 token 一起送入 Transformer,从而具备看图问答、理解场景和基于截图操作的能力。本文用它直接读四视角 RGB 图像、解释自然语言请求并决定下一步操作。

SuperNav 的核心假设是:预训练 MLLM 已具备足够的场景理解与任务解释能力,无需导航微调。全文所有决策、完成判断、工具选择都由它完成,不理解 MLLM 的角色就无法理解系统分工。

Agent Harness(智能体框架)

围绕大模型搭建的运行时系统:把模型放进一个循环里,维护上下文、提供可调用工具、管理任务状态与交互历史,使模型能多轮持续地完成复杂任务。Codex、Claude Code 等编程 agent 的底层框架就是典型代表,它决定模型能看到什么、能做什么、如何记住做过什么。

本文的核心贡献就是把软件工程界的 harness 方法论整体迁移到具身导航——SuperNav 本质上就是一套导航专用的 agent harness,理解这个概念才能抓住论文的方法本质。

物体目标导航(ObjectNav)与 SR/SPL 指标

机器人在陌生场景中仅凭物体类别描述(如“sofa”)找到目标并停下的任务。SR(成功率)要求终点与目标视点的测地距离小于阈值且显式 STOP;SPL(按路径长度加权的成功率)定义为 $S_i L_i / \max(L_i, P_i)$,即成功时以最短参考路径与实际执行路径之比加权,奖励高效路径。

论文所有主实验都用 SR/SPL 评价,且不同阈值(0.25m/1m/2m)、是否要求 STOP、动作预算差异都会显著改变数字,读懂指标定义才能正确解读各表格并判断对比是否公平。

导航网格(navmesh)与测地距离

navmesh 是仿真器从场景几何预计算出的可行走表面网格;测地距离指沿该网格行进的最短路径长度,比直线距离更贴近真实运动。Habitat 的 PathFinder 提供路径查询,GreedyGeodesicFollower 把路径转成前进/转向离散动作序列。

Geo-based Executor 依靠深度反投影加 navmesh 规划来执行视觉点导航,所有基准的成功判定也基于 navmesh 测地距离,它是理解运动后端实现与评测协议的基础。

Flow Matching(流匹配)

一类生成式建模方法:在目标数据 $A$ 与高斯噪声 $\epsilon$ 之间做线性插值 $x_\tau=(1-\tau)A+\tau\epsilon$,训练网络回归速度场 $\epsilon-A$,推理时从纯噪声出发用少量欧拉积分步生成样本。相比扩散模型通常步数更少、训练更稳定。

Learned Executor 的动作头用流匹配生成 $8\times 2$ 位移增量序列,其损失 $\mathcal{L}_{\text{flow}}$ 直接决定学习型运动后端的品质,是附录 C 的核心公式。

DINOv2

Meta 提出的自监督视觉基础模型,在大规模无标注图像上训练出的 ViT 编码器,其特征对分割、深度估计、检索等下游任务有很强通用性,常被冻结或微调后作为视觉骨干(如 ViT-S/14 规格,输出 384 维特征)。

Learned Executor 用共享权重的 DINOv2 ViT-S/14 分别编码当前帧、历史帧和带标记的参考图,是学习型运动后端的感知基础,决定其能否仅凭 RGB 理解图像空间目标。

研究动机

通用服务机器人面对的导航请求五花八门:找某类物体、找某个特定实例、按顺序访问多个目标、满足“我想找个地方休息”这类抽象需求,而且要在训练时从未见过的环境里完成。现有方法在两个维度上都有硬伤。模块化零样本系统(VLFM、ApexNav 等)用视觉语言模型给探索区域打分,但何时调用模型、探索何时切换到目标确认、何时结束,都由任务专属的预定义工作流写死——请求从“找某类物体”变成“找特定实例”或“收拾出一张能用的桌子”时,目标解释、进度跟踪、完成条件全都要改流程。端到端方法(NaVid、UniNaVid、StreamVLN 等)用导航轨迹微调 MLLM 直接预测动作,行为被训练数据覆盖面锁死:作者在 Habitat-GS 新场景上的跨环境评测显示,最强基线 UniNaVid 单物体导航成功率仅 34.00%,多物体顺序导航暴跌至 1.33%,StreamVLN 甚至为 0.00%,任务完成率出现巨大落差。

本文的目标是本文的目标是构建一个同时具备任务泛化与场景泛化的导航系统:同一套系统不做任何导航微调、不改工作流,就能处理物体实例搜索、多目标顺序访问、需求驱动导航(如“我要开始工作了,帮我把这片区域收拾得能用”)等异质请求,并能迁移到陌生场景乃至真实四足机器人。具体路径是让预训练 MLLM 只做它擅长的事——解读请求语义、理解视觉观测、权衡下一步行动——而把运动执行、观测获取、任务状态记录交给一套专门设计的导航智能体框架(harness),从而绕开导航训练数据这个瓶颈,把泛化能力直接建立在基础模型既有的理解与推理能力之上。

与已有工作不同的是,切入角度的独特之处在于把 agent harness 工程当作一等公民。此前分层系统(InstructNav、OmniNav、SysNav)已让高层模型与底层执行合作,但研究重心在各模块算法本身;SuperNav 研究的恰恰是模型选择与组合能力的接口和运行时:统一视觉点接口让模型直接在观测图像上点出目的地,而非预测低层动作,同一交互模式可插拔几何或学习两种运动后端;Navigation Skills 以按需阅读的 Markdown 指导而非硬编码逻辑注入搜索、复检、恢复、完成的经验,语义判断保留在模型手里;上下文管理采用“只剪图像媒体、保留文本历史”的方式支撑长时程任务。这套设计明确借鉴了 Codex、Claude Code 等编程 agent 的 harness 实践(论文直接引用了 OpenAI 与 Anthropic 的工程博客),在具身导航领域是相当新颖的视角。

核心方法

直觉上,SuperNav 不是教模型开机器人,而是给一个已经会看图、会理解话的模型配齐“工具箱+说明书+工作记忆”。系统由三部分组成:(a) Agent loop 用 Codex CLI 实现,通过 MCP 协议暴露环境操作,循环维护系统提示、任务指令、交互历史与上下文更新;(b) Agent-oriented Tools 提供初始化、四视角观察(front/right/back/left)、原地转向、视觉点导航、目标进度管理和终止六类操作;(c) Navigation Skills 是按需加载的 Markdown 包,覆盖搜索、候选复检、受阻恢复、完成验证四类程序性经验。运动执行有两种可互换后端:Geo-based Executor 基于深度反投影和导航网格做规划,Learned Executor 是 NoMaD 启发的点目标学习策略。运行时模型读图、调用工具、根据返回的反馈再次决策,直到判断任务达成或受阻后调用终止工具结束会话。

核心创新是职责分离加统一视觉点接口。与端到端方法的本质区别:NaVid 等让微调后的模型直接预测低层动作,学到的“观测-指令-行为”关联一出训练分布就失效;SuperNav 里模型只输出 $\text{PointNav}(d,[u,v])$(视图 $d$ 加归一化像素坐标,$u,v\in[0,1]$)这样的高层目的地,执行细节完全下放给工具,决策流程对底层用哪种运动后端完全不可知。与模块化系统的本质区别:搜索策略、完成判断、异常恢复不再写死在代码里,而是以 Skills 文本进入上下文、由模型自行决定何时采用——Skills 不新增环境能力,也不编程强制动作序列。消融证明这种“软指导”是最大性能来源:去掉 Skills 后 OVON 0.25m 阈值成功率从 68.33% 跌到 35.00%,说明组织模型行为的方式本身就是性能。

方法步骤详情

完整流程分五步。第一步初始化:hab_init_scene 打开会话并返回四视角 RGB(640×480、90° 水平视场、相机高 1.25m),模型从中解释目标与完成条件。第二步循环决策:每步模型基于当前上下文与目标记录选择观察、转向、导航、更新进度或读取 Skill;文本历史保留检查过的区域、候选线索和失败尝试。第三步视觉点导航:模型在带方向标签的图上选点;Geo 后端用深度与相机内外参把像素反投影成三维位置,在 navmesh 上吸附可行点(0.7m 站立距离、0.75m 吸附上限、0.3m 到达半径、200 步 follower 上限),由 PathFinder 规划、GreedyGeodesicFollower 执行;Learned 后端在参考图上画红圈标记目标,用 DINOv2 编码参考图、当前帧与最多 12 帧年龄感知历史,流匹配头预测 $8\times 2$ 个位移增量(0.25m 刻度),每次执行前 3 个增量后重观测重规划,停止概率 $p_t\ge 0.1$ 连续两次确认才结束本次移动。第四步反馈回填:工具返回新四视角图、执行状态与诊断信息供模型复检。第五步进度与终止:进度工具查询/更新待办与已找到目标;模型判定达成或受阻后调用终止工具关闭会话,评测在会话外独立计分。全程上下文管理会把已被新观测取代的图像媒体负载剪掉,只留路径与文本。

技术新颖性

技术新颖性体现在四点。其一,跨域方法论迁移:首次把 SWE-agent 式“接口设计决定 agent 表现”的结论系统搬进具身导航,用 Codex CLI 加 MCP 搭建导航运行时。其二,视觉点统一接口:一个 $\text{PointNav}(d,[u,v])$ 契约同时兼容依赖深度与 navmesh 的几何后端和纯 RGB 的学习后端,实验证明换后端不换决策流程仍能保住相近成功率(OVON 1m 阈值下 Geo 73.33% 对 Learned 70.83%)。其三,Skills 的弱约束设计:以文本指导影响决策而非强制执行,既注入搜索/恢复/完成的领域经验,又不损害模型通用能力;对比实验中,用外部 grounding 模型(LocateAnything)替代模型直接指点的 Grounding Motion Tool 变体成功率反而从 73.33% 降到 62.50%,说明保留模型自身的直接视觉指点是更优接口。其四,媒体剪枝式上下文管理:只删图像负载、保留文本与图像路径,兼顾长时程记忆与上下文窗口限制。

Skill-guided sofa search. The Agent rechecks candidates, recovers from a blocked doorway, and verifies completion.
Figure 1: Skill-guided sofa search. The Agent rechecks candidates, recovers from a blocked doorway, and verifies completion.
Navigation with Skills and agent-oriented Tools.
Figure 2: Navigation with Skills and agent-oriented Tools.
Learned Executor architecture.
Figure 6: Learned Executor architecture.
Variable-length visual memory.
Figure 7: Variable-length visual memory.

实验结果

逐项看实验。其一,自建实例导航基准(Habitat-GS 加 InteriorGS 场景,150 个单物体加 150 个多物体任务,到达要求 navmesh 测地距离小于 1m 且显式 STOP):SuperNav+Geo 单物体 78.00% SR / 0.4127 SPL,最强基线 UniNaVid 仅 34.00% / 0.1833;多物体任务 SuperNav 两种后端同为 34.00% SR,基线最高的 OmniNav 仅 4.00%,StreamVLN 为 0.00%,分阶段统计(Table 4)显示 SuperNav 在第 5 个目标上仍有 34.21%/39.47% 的完成率,所有基线到第 5 目标全部归零。其二,需求驱动导航(AI2-THOR 上 Demand-Bench 的 200 任务,2m 包围盒顺序到达):SuperNav+Geo 59.50% SR / 0.1801 SPL,对 OmniNav 的 37.50% / 0.1213;但 6 阶段以上无任何方法完成。其三,类别级 HM3D:OVON val-unseen 120 集上 1m 阈值 73.33% / 0.4105、0.25m 阈值 68.33% / 0.3837,高于 MTU3D(40.80/0.1210)与 SoftNav(66.70/0.2570);HM3Dv2 1000 集上 0.2m 阈值 80.30% / 0.3338、1m 阈值 86.50% / 0.3638,超过 ApexNav 的 76.20% 与 MSGNav 的 74.10%,且完全未做 OVON/HM3D 定制训练。其四,消融:去掉 Skills 掉得最狠(0.25m 下 68.33→35.00);front-only 工具使显式转向从 0.41 次涨到 17.56 次;换 GPT-6 Astra (medium) 反而升至 71.67%/79.17%,证明框架与决策模型解耦。其五,Unitree Go2 真机完成篮球搜索、识别另一台 Go2、打印机到垃圾桶的多目标访问,并在门口被挡时自主改道。

Single-object, multi-object, and demand-driven navigation results.
Table 1: Single-object, multi-object, and demand-driven navigation results.
Category-level navigation on HM3D.
Table 2: Category-level navigation on HM3D.
Ordered progress on multi-object and demand-driven tasks.
Table 4: Ordered progress on multi-object and demand-driven tasks.
Baseline observation settings in Habitat-GS and AI2-THOR.
Table 5: Baseline observation settings in Habitat-GS and AI2-THOR.
Interaction and execution statistics for Geo-based Executor ablations.
Table 6: Interaction and execution statistics for Geo-based Executor ablations.
Ordered multi-object navigation in simulation.
Figure 3: Ordered multi-object navigation in simulation.
Real-world navigation on Unitree Go2.
Figure 5: Real-world navigation on Unitree Go2.
查看结构化数据
任务指标本文基线提升
单物体实例导航(自建基准,150 任务) SR / SPL 78.00% / 0.4127(Geo 后端) UniNaVid 34.00% / 0.1833(最强基线) SR +44.00 个百分点,SPL 提升约 1.25 倍
多物体顺序导航(150 任务,每条 2–5 个目标) SR / SPL 34.00% / 0.1388(Geo 后端) OmniNav Action Former 4.00% / 0.0275 SR +30.00 个百分点(约 8.5 倍)
需求驱动导航(Demand-Bench,AI2-THOR,200 任务) SR / SPL 59.50% / 0.1801(Geo 后端) OmniNav Action Former 37.50% / 0.1213 SR +22.00 个百分点
HM3D-OVON val-unseen 类别级导航(120 集) SR / SPL @1m 与 @0.25m 73.33% / 0.4105;68.33% / 0.3837 SoftNav 66.70% / 0.2570(@0.25m);AstraNav-Memory 62.50% / 0.3490(@1m) SR 分别 +1.63 与 +10.83 个百分点,SPL 大幅领先
HM3Dv2 验证集类别级导航(1000 集) SR / SPL @0.2m 80.30% / 0.3338 ApexNav 76.20% / 0.3800 SR +4.10 个百分点(SPL 略低 0.0462)

局限与改进

作者承认的限制:语义判断完全依赖底层 MLLM,模型能力上限即系统上限;几何执行依赖可用的地图或场景几何,真机用 LiDAR 加里程计定位且无回环 SLAM;MLLM 推理计算开销大且延迟波动明显,任务时长难以预测;需求驱动评测只度量“按序到达相关目标”,并未验证底层活动(如真的把桌子收拾好)是否完成。我的补充观察:长时程仍是明显短板——需求驱动任务 6 阶段以上无一完成、Geo 后端第 5 阶段 SR 仅 9.09%,多物体整体 SR 也只有 34.00%、SPL 0.1388,路径效率与长程规划空间很大;主实验依赖闭源前沿模型(GPT-5.6 Terra high / GPT-6 Astra medium),成本与可得性存疑;与已发表方法的 HM3D 对比因评测子集、阈值与动作预算不同(如 ApexNav 500 步、OmniNav 慢系统 4000 步)并非严格公平;Skills 与提示为四视角接口定制,换传感器构型需要重写。

独立分析的弱点

独立分析几个弱点。第一,延迟与成本:每步都要前沿 MLLM 推理,单任务预算高达 3600 秒,几乎无法跑在实时服务机器人上;改进方向是把高频决策蒸馏进小模型、缓存重复决策,或让 Learned Executor 承担更长的动作段以减少调用次数。第二,特权信息依赖:Geo 后端在仿真用真值深度与 navmesh,真机也需要 LiDAR、标定与里程计,且无回环检测,长时程漂移会让图像点与地图错位;改进方向是在线增量建图加鲁棒定位,或给学习后端加入深度输入以缩小 SPL 差距(单物体上 0.2059 对 0.4127)。第三,语义完成的不可靠性:“成功关闭会话”只是模型的口头报告,错误确认会导致提前 STOP;改进方向是引入几何一致性校验或轻量独立验证器。第四,Skills 人工维护:四个 Markdown 包针对室内导航手写,换到户外、工业场景或新传感器构型需重新设计;改进方向是从失败轨迹自动总结与修订 Skill,形成技能库自我扩展。第五,评测可组合性差:各基准阈值、STOP 要求、动作预算不一,社区横向比较困难;改进方向是发布统一协议的标准化 harness 评测套件。

未来方向

作者提出的方向:把评测扩展到更多真实世界场景,提高长导航序列上的可靠性。基于成果可延伸的方向包括:其一,技能层自动化——让 agent 从成功与失败轨迹中自动撰写、修订、归档 Navigation Skills,形成跨任务复用的技能库,减少人工提示工程;其二,后端融合——利用统一接口在 Geo 与 Learned 后端间动态切换(有几何信息时用 Geo 保效率,无几何时退回 Learned),或在 Learned Executor 训练中加入深度与更广的场景数据;其三,把“视觉点接口+Skills+上下文管理”的 harness 模式推广到操纵、开门等交互任务,检验任务泛化论断的边界;其四,上下文管理升级——用空间记忆或场景图替代纯文本历史,支撑上百步任务;其五,用世界模型或重访验证替代“模型口头确认”,让完成判定更客观;其六,多机器人协作下共享 Skills 与目标进度记录。

复现评估

复现评估:论文给出项目页(zju3dv.github.io/SuperNav),正文与附录对 harness 实现描述非常详尽——Codex CLI 加 MCP 的工具清单、Skill 快照与哈希校验、超时配置(会话 3600s、MCP 启动 180s、单工具调用 300s)、Geo 后端全部默认参数、Learned Executor 完整训练配方(DINOv2 ViT-S/14 骨干、45k 次更新、batch 256、AdamW 学习率 $10^{-4}/10^{-5}$、bfloat16 混合精度、EMA 0.999)全部写出。数据方面:自建 InteriorGS 基准依赖 VLM 辅助标注并经人工复核,是否随代码发布未明说;Demand-Bench、HM3D、HM3D-OVON 均公开。主要门槛有二:决策模型是闭源的 GPT-5.6 Terra (high) 与 GPT-6 Astra (medium),API 费用不菲,且结果随模型版本漂移(Table 3 显示 Astra medium 比 Terra high 高约 3–6 个百分点);真机复现需要 Unitree Go2 加四相机与 LiDAR 的硬件集成。综合判断:仿真复现属中等难度(Habitat 生态成熟,但 Skill 与提示工程需细致调试),含真机的完整复现偏难,最大不确定性在闭源模型依赖。

相似论文推荐