往哪儿看:基础模型能否通过主动探索到达目标视点? Where to Look: Can Foundation Models Reach a Target Viewpoint Through Active Exploration?
提出TVR任务和TVRBench基准,发现基础模型难以通过主动探索重现目标视角,后训练提升至51.4%
前置知识
具身智能
指智能体通过与物理环境的交互来感知、推理和行动的能力。不同于传统的被动感知(如分析静态图像),具身智能体需要在环境中主动移动、收集信息并做出决策,形成感知-推理-行动的闭环。在本文中,具身智能体现在智能体通过身体移动和头部旋转来调整视角,以匹配目标图像。
本文研究的TVR任务本质上是具身智能的一种表现形式,要求模型不仅要理解视觉内容,还要能够将空间差异映射到具体的身体动作,需要理解具身智能的基本原理和挑战。
多模态大语言模型
能够同时处理视觉和语言输入的大型神经网络模型。它们通常包含视觉编码器将图像转换为特征向量,以及语言模型处理文本和生成响应。MLLM可以执行如图像描述、视觉问答等跨模态任务。本文使用的Qwen3.5、GPT-4o、GPT-5、Gemini-3.1-Pro等都是MLLM。
本文的核心是评估和提升MLLM的主动空间智能能力,需要理解MLLM的架构、训练方法以及当前在视觉-语言任务上的性能和局限性。
Group Relative Policy Optimization (GRPO)
一种基于组的相对策略优化算法,是强化学习中的训练方法。GRPO通过同时采样多个响应(组),计算每个响应相对于组平均值的优势,然后使用PPO风格的裁剪目标来更新策略。这种方法不需要价值函数,通过组内的相对比较来估计优势,简化了训练过程。本文将其应用于视觉-动作策略的优化。
本文使用GRPO对MLLM进行后训练,以提升其在TVR任务上的性能。理解GRPO的原理和实现对于理解本文的训练方法和结果至关重要。
链式思维推理
一种提示技术,要求模型在给出最终答案之前先展示其推理过程。这种技术可以显著提升复杂任务的性能,因为它促使模型进行更深入的思考和分解问题。在本文中,CoT被用作监督信号,试图让模型学习到在每一步进行空间推理和决策的理由。
本文探索了CoT监督对TVR任务性能的影响,发现CoT监督反而降低了性能。理解CoT的工作原理和局限性有助于理解这一反直觉的发现。
研究动机
现有空间智能研究主要关注被动理解预先收集的观测,模型被问的是'什么在哪里'而不是'接下来该往哪儿看'。即使是最先进的开源和闭源多模态大语言模型在主动空间推理任务上也表现糟糕:在TVRBench上,最好的开源模型仅达到7.8%的成功率,最好的闭源模型也只有12.0%,而人类在相同任务上达到93.0%。更细致的分析揭示了两个一致的瓶颈:第一,现成模型难以利用多轮视觉历史,每个开源模型在使用仅动作历史的记忆(action-only memory)时都比完整视觉-动作记忆(visual-action memory)表现更好,平均差距为+3.8个百分点;第二,当视角重现需要身体移动而不仅仅是原地旋转时,性能急剧下降,表明主要困难在于将空间差异映射到具身运动,而不仅仅是静态视觉识别。例如,当禁用身体移动动作时,Qwen3.5-9B从2.8%提升到80.5%;当仅允许身体移动时,它保持在10.0%。
本文的目标是本文的具体目标是研究基础模型能否推断当前视角与目标视角之间的空间关系,将其映射到具身动作,并通过主动探索重现目标视角。为此,作者引入了Target Viewpoint Reproduction (TVR)任务——一个闭环目标任务,智能体接收目标图像和初始观测,然后通过行动直到其观测与目标图像匹配。任务评估明确的视角控制能力:智能体必须重现目标视角,而不仅仅是到达一个区域。作者还在室内模拟环境中实例化TVR,构建了TVRBench基准,涵盖单房间和多房间场景,并提供探索效率、空间记忆和感知-动作映射的诊断指标。
与已有工作不同的是,本文的独特切入角度在于明确提出并研究'主动视角重现'这一核心能力,这与现有研究形成鲜明对比。传统空间智能任务假设视觉观测是预先给定的(静态图像、多视图输入或预录制视频),因此只问'什么在哪里';现有的主动探索任务(如ImageNav)评估的是智能体是否到达目标区域,而非其最终观测是否重现目标图像。近期关于主动空间推理的工作通常使用简化的动作空间(如传送或受限的智能体位置)。与这些工作不同,TVR在两个维度上有所不同:(1)成功定义为明确的视角匹配——智能体的观测必须重现给定目标图像的视角——而不是到达位置、识别对象或完成指令;(2)动作空间同时包含身体移动和头部旋转,没有传送、固定位置或限制到单一动作模态,要求协调控制。这种设计暴露了现有基础模型在将空间差异映射到可靠身体移动方面的根本性缺陷,这是一个此前未被充分研究的瓶颈。
核心方法
方法整体思路分为两个层面:基准评估和后训练改进。在评估层面,作者构建了TVRBench基准来系统地测试基础模型的主动视角重现能力。在改进层面,作者开发了一个统一的TVR后训练框架,包含专家轨迹监督微调(SFT)、链式思维监督微调(CoT-SFT)、离线单轮GRPO和在线多轮GRPO四种训练范式。直觉上,TVR任务要求模型在闭环环境中连续做出决策,这需要一个能够有效利用视觉历史、准确推断空间差异、并将其可靠映射到身体动作的策略。技术路线上,作者首先使用基于规则的专家轨迹生成SFT数据,让模型学习从视觉-动作历史到动作的基本映射。然后,作者探索了两种强化学习方法:单轮GRPO在固定的单步提示上优化动作匹配,多轮GRPO在实时TVRBench滚动上优化轨迹级策略。通过比较这些方法,作者旨在识别哪些训练范式对TVR任务最有效,以及它们如何弥补现有模型的两个主要瓶颈。
核心创新点在于明确识别并针对TVR任务的两个特定瓶颈:多轮视觉历史的利用和空间差异到身体移动的映射。与以往将视觉-动作记忆视为理所当然的工作不同,作者通过对比实验发现视觉-动作记忆(VA)实际上可能损害未针对此设置训练的基础模型的性能,这导致了一个反直觉的发现:动作仅记忆(AO)在所有评估的开源模型上表现更好。更重要的是,作者发现身体移动控制是TVR中的主导失败模式,而非视角外观匹配。这通过消融实验证明:移除身体移动动作将Qwen3.5-9B从2.8%提升到80.5%,而仅允许身体移动时它保持在10.0%。基于这些发现,作者设计的训练框架强调视觉-动作SFT作为主要增益源,并使用轨迹级多轮GRPO进行针对性的多房间细化,而不是依赖单步动作匹配或链式思维推理。这一方法与现有基于每步监督或单步RL的范式有本质区别,它强调闭环、多步结构需要轨迹级优化而非单步匹配。
方法步骤详情
方法步骤的完整描述如下:第一步,构建TVRBench基准。作者使用两个场景源:单房间任务使用AI2-THOR(120个厨房、客厅、卧室和浴室),多房间任务使用ProcTHOR-10k(120个2-3个房间的家庭)。将240个场景按1:2:3比例分割为SFT、评估和RL训练集,确保评估场景在训练中未见过。每个任务是场景中采样的(起始,目标)姿态对,按最短路径长度(单房间2-8步,多房间10-20步)和目标视图可见对象数量(easy≥9,hard 3-6)交叉,形成四个任务类别:Single-easy、Single-hard、Multi-easy、Multi-hard。评估集包含每类别125个任务,共500个任务。第二步,设计状态和动作空间。智能体状态st=(xt, zt, θt, ϕt)包含地面位置、身体偏航角和相机俯仰角。每步选择9个离散动作之一:MoveAhead、MoveBack、MoveLeft、MoveRight(身体移动0.25米),RotateLeft、RotateRight(身体旋转±45°),LookUp、LookDown(相机俯仰±30°),Stop(终止)。第三步,定义成功标准和评估指标。当且仅当智能体发出Stop且最终姿态sT与目标姿态s⋆相同时成功。报告四个诊断指标:最终姿态误差|∆p|、|∆θ|、|∆ϕ|,停止率,假停止率F-stop(在非目标姿态发出Stop的比例),以及平均步数。第四步,生成专家轨迹用于SFT。使用具有特权访问模拟器内部状态的规则规划器,为每个任务(s0, s⋆)生成三阶段动作序列:视图对齐(旋转身体和调整头部俯仰)、导航(使用Dijkstra算法在离散状态空间上运行最短路径算法)、终止(发出Stop)。规划器是确定性的,为每个任务产生一条最优轨迹,共1600条SFT轨迹。第五步,SFT训练。使用Qwen3.5-9B作为骨干,冻结视觉编码器,全参数更新。使用AdamW优化器,bf16精度,学习率1×10^-5,余弦调度,10%线性预热。在AO变体上训练3个epoch,在VA变体上训练5个epoch。对于CoT变体,使用MiMo-V2.5通过API为每一步生成简短的观测理由,与规则轨迹结合使用。第六步,Single-turn GRPO训练。将SFT轨迹展平为独立的(It, I⋆, a∗t)提示,优化单步动作策略。使用GRPO算法,组大小G=8,温度0.9,学习率1×10^-6,GRPO裁剪阈值ϵ=0.2,KL系数β∈{0.01, 0.05}。第七步,Multi-turn GRPO训练。在实时TVRBench中滚动轨迹,优化轨迹级策略。初始化从VA-SFT检查点,使用8个并行环境实例,组大小G=8个轨迹,最大轨迹长度Tmax=30。学习率1×10^-7,GRPO裁剪ϵ=0.2,KL系数β=0.01。奖励函数包含四项:步数惩罚cstep=0.01、格式项r_fmt、进步项r_prog和终止项r_term。
技术新颖性
技术新颖性体现在三个方面:首先,TVR任务和TVRBench基准填补了现有研究中的一个空白,它明确评估智能体通过具身运动重现特定视角的能力,而非仅仅到达区域或识别对象。任务设计在场景规模和目标视图视觉丰富度两个维度上系统变化,为诊断模型在探索效率、空间记忆和感知-动作映射方面的能力提供了协议。其次,本文通过细致的基准评估识别了两个一致且此前未被充分研究的瓶颈:多轮视觉历史的利用和空间差异到身体移动的映射。这些发现通过消融实验和诊断指标得到支持,例如,移除身体移动动作将模型从2.8%提升到80.5%,而仅允许身体移动时它保持在10.0%。最后,本文开发了一个统一的TVR后训练框架,系统比较了专家轨迹SFT、CoT-SFT、单轮GRPO和多轮GRPO在闭环环境中的效果。这一框架揭示了关键发现:视觉-动作SFT提供主要改进(50.8%),而多轮GRPO提供针对性的多房间细化(51.4%),而CoT监督和单轮GRPO降低闭环性能。这一发现与现有基于每步监督或单步RL的范式形成对比,强调了轨迹级优化对多步闭环任务的重要性。
实验结果
核心发现包含三个主要方面。首先,基础模型在TVRBench上表现糟糕,暴露了显著的模型-人类差距。最好的开源模型Qwen3.5-27B(动作仅记忆)仅达到7.8%整体成功率,最好的闭源模型Gemini-3.1-Pro(动作仅记忆)达到12.0%,而人类在平衡的100任务子集上达到93.0%。 scaling带来小增益:密集Qwen3.5从9B的2.8%改进到27B的7.8%,而最好的闭源模型仍保持在12%的天花板。其次,细粒度分析揭示了两个一致的瓶颈。第一个瓶颈是多轮视觉历史的利用:每个开源模型在使用动作仅记忆时都比完整视觉-动作记忆表现更好,平均差距为+3.8个百分点,这表明未针对此设置训练的基础模型中,上下文中的过去观测可能损害性能。第二个瓶颈是身体移动控制:当视角重现需要身体移动而不仅仅是原地旋转时,性能急剧下降。受控消融显示,移除身体移动动作将Qwen3.5-9B从2.8%提升到80.5%,而仅允许身体移动时它保持在10.0%。这表明身体移动控制是TVR中的主导失败模式,而非视角外观匹配。第三,后训练可以显著改进,但并非所有方法都有效。视觉-动作SFT将Qwen3.5-9B从0.0%提升到50.8%整体成功率,特别是在单房间任务上表现强劲(Single-easy 82.4%,Single-hard 68.8%),而多房间性能仍然较低(Multi-easy 27.2%,Multi-hard 24.8%)。添加CoT监督在两种记忆格式下都降低性能:从动作仅记忆的44.2%到24.8%,从视觉-动作记忆的50.8%到35.6%。单轮GRPO一致地降低SFT策略:从AO-SFT的44.2%降低到26.2%(下降18.0个百分点),从AO-CoT-SFT的24.8%降低到9.4-15.0个百分点(取决于KL系数β)。相比之下,多轮GRPO选择性地改进多房间探索:Multi-easy从27.2%提升到34.4%(+7.2个百分点),Multi-hard从24.8%提升到25.6%(+0.8个百分点),而单房间分割保持接近SFT检查点(Single-easy从82.4%变为81.6%,Single-hard从68.8%变为64.0%)。最终模型保持F-stop在0%,表明多房间增益不以更差的停止校准为代价。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| TVRBench整体成功率 | 成功率(%) | VA-SFT + Multi-turn GRPO: 51.4% | Gemini-3.1-Pro (AO): 12.0%; Qwen3.5-27B (AO): 7.8% | 相比Gemini-3.1-Pro提升39.4个百分点,相比Qwen3.5-27B提升43.6个百分点 |
| 单房间简单任务(Single-easy) | 成功率(%) | VA-SFT + Multi-turn GRPO: 81.6% | Gemini-3.1-Pro (AO): 21.6%; Qwen3.5-27B (AO): 14.4% | 相比Gemini-3.1-Pro提升60.0个百分点,相比Qwen3.5-27B提升67.2个百分点 |
| 多房间简单任务(Multi-easy) | 成功率(%) | VA-SFT + Multi-turn GRPO: 34.4% | Qwen3.5-27B (AO): 0.0%; Gemini-3.1-Pro (AO): 0.8% | 相比Qwen3.5-27B提升34.4个百分点,相比Gemini-3.1-Pro提升33.6个百分点 |
| 假停止率(F-stop) | 假停止率(%)越低越好 | VA-SFT + Multi-turn GRPO: 0.0% | Qwen3.5-9B (VA): 100.0%; Qwen3.5-27B (VA): 82.0% | 达到完美的停止校准,比所有VA基线都有显著改进 |
| 平均步数(探索效率) | 平均步数(越低越好) | VA-SFT + Multi-turn GRPO: 24.9 | Qwen3.5-9B (VA): 34.3; 人类: 22.8 | 比未训练的Qwen3.5-9B (VA)少9.4步,接近人类效率 |
局限与改进
局限性分析包含作者承认的和观察到的几个方面。首先,TVRBench完全建立在模拟中(AI2-THOR和ProcTHOR-10k),使用离散姿态网格和精确姿态成功标准。这些选择保持任务难度可控且成功信号明确,但因此结果仅表征这一设置,而非物理世界中连续、基于容忍度的视角控制。在现实世界中,视角匹配可能不需要像素级精确,允许一定误差范围。其次,后训练结论仅依赖于单个9B开源骨干(Qwen3.5-9B),作者尚未建立这些结论在不同模型家族、规模和其他主动感知任务上的普遍性。虽然视觉-动作SFT似乎是主要增益源,但不同架构可能有不同的响应特性。第三,CoT监督降低闭环性能这一发现可能取决于当前注释方案(使用MiMo-V2.5生成理由)。为主动视角控制专门定制的CoT监督是否有帮助仍然是一个开放问题。第四,单轮GRPO降低闭环性能的发现表明每步动作匹配不足以学习恢复策略,因为策略只在专家条件状态下训练,而非测试时访问的非专家状态。然而,这可能需要更复杂的奖励设计或探索策略来弥合每步匹配和轨迹成功之间的差距。第五,当前的动作空间是离散的(9个离散动作),而现实世界中的机器人通常需要连续、精细的运动控制。最后,TVRBench使用预计算的专家轨迹进行SFT,这假设存在一个规则规划器可以解决所有任务。在更复杂的现实场景中,专家示范可能难以获得,需要探索其他训练范式,如从演示学习或人类反馈强化学习。
独立分析的弱点
独立分析的弱点包括以下几个方面。第一,多房间性能仍然远低于单房间性能。即使在使用多轮GRPO后,Multi-easy(34.4%)和Multi-hard(25.6%)仍显著低于Single-easy(81.6%)和Single-hard(64.0%)。这表明模型在跨房间导航和长期规划方面仍有困难,可能需要更强大的空间记忆和推理能力。改进方向:引入更复杂的空间记忆机制,如基于注意力的记忆模块或场景图表示,帮助模型更好地跨房间跟踪位置和目标。第二,硬目标任务(hard)比容易任务(easy)更难。Single-hard(68.8%)低于Single-easy(82.4%),Multi-hard(25.6%)低于Multi-easy(34.4%)。硬任务的目标视图视觉证据稀少(仅3-6个可见对象),使得视角匹配更具挑战性。改进方向:开发更好的视觉相似度度量,结合对象级特征和全局布局信息,帮助模型在视觉线索稀少时进行决策。第三,当前训练依赖于规则生成的专家轨迹,这可能限制模型学习到的策略多样性。规则规划器总是使用相同的策略(先对齐视角,再导航,最后终止),这可能导致模型学习到僵化的行为模式。改进方向:探索从人类演示学习,或使用多样化的策略集合进行训练,增强模型的适应性和鲁棒性。第四,CoT监督降低性能,这表明当前生成的理由可能不提供有用的监督信号,甚至可能干扰动作学习。改进方向:设计更高质量的CoT注释,专注于空间推理和决策的关键方面,或探索其他形式的结构化推理监督,如决策树或因果推理图。第五,单轮GRPO降低闭环性能,表明每步动作匹配不足以学习恢复策略。改进方向:开发更复杂的RL算法,结合每步奖励和轨迹级奖励,或引入探索策略,帮助模型学习从非专家状态恢复。
未来方向
未来研究方向包括作者提出的和基于成果可延伸的几个方向。第一,扩展到连续动作空间。当前的动作空间是离散的(9个离散动作),而现实世界中的机器人通常需要连续、精细的运动控制。未来工作可以探索连续动作空间下的TVR任务,以及相应的训练方法,如连续RL算法或动作平滑技术。第二,应用到真实世界。TVRBench完全建立在模拟中,未来工作可以探索将训练好的模型转移到真实世界机器人平台,研究模拟到真实的迁移问题,包括视觉领域差异、物理不确定性等因素。第三,扩展到更多场景类型。当前TVRBench专注于室内场景,未来工作可以扩展到室外场景、动态环境或交互式场景,研究模型在更广泛环境中的泛化能力。第四,与其他主动感知任务结合。TVR专注于视角重现,未来工作可以将其与其他主动感知任务结合,如对象搜索、场景理解或交互式问答,构建更全面的主动空间智能系统。第五,探索更有效的记忆机制。当前研究使用视觉-动作记忆或动作仅记忆,未来工作可以探索更复杂的记忆机制,如基于注意力的记忆模块、分层记忆或永久记忆,帮助模型更好地跟踪历史和进行长期规划。第六,研究更好的CoT监督。当前CoT监督降低性能,未来工作可以探索为主动视角控制专门定制的CoT监督设计,专注于空间推理和决策的关键方面,或探索其他形式的结构化推理监督。第七,扩展到多智能体设置。当前研究关注单个智能体,未来工作可以探索多智能体协同视角重现,研究智能体之间的通信和协调机制。第八,研究更强大的空间推理能力。当前模型在跨房间导航和长期规划方面仍有困难,未来工作可以探索更强大的空间推理方法,如场景图构建、3D重建或认知地图。
复现评估
复现评估如下。开源情况:作者承诺将TVRBench、轨迹管道、后训练检查点和支持代码在宽松的开源许可证下发布。论文提供了基准构建和训练配置的详细描述(附录B-D),包括场景分割、任务生成、动作空间、评估指标、专家轨迹生成、CoT注释、SFT和GRPO训练的超参数等。数据:TVRBench使用两个公开的模拟器(AI2-THOR和ProcTHOR-10k),这两个都是广泛使用的室内环境模拟器,可以公开获取。评估集包含500个任务(每类别125个),这是相对适中的规模,便于复现。算力:训练成本相对可控。单个SFT运行使用4个NVIDIA H100 GPU约6小时;多轮(在线)GRPO使用8个NVIDIA H200 GPU约10小时;单轮(离线)GRPO使用8个H200 GPU约4小时。对于研究机构来说,这是可接受的计算资源。难度:复现难度中等。作者提供了详细的技术描述和实现细节,包括训练配置、超参数和数据生成流程。然而,复现可能需要一定的经验,特别是在强化学习部分,涉及环境交互、轨迹滚动和奖励设计。总体而言,论文在复现性方面做得较好,提供了足够的技术细节和承诺开源,其他研究者应该能够复现主要结果。一个潜在的挑战是闭源模型(GPT-4o、GPT-5、Gemini-3.1-Pro)的评估,这些需要API访问,可能涉及成本和限制。然而,这些仅用于基准评估,不是方法的核心部分。
论文图表