← 返回 2026-02-10

空间理论:基础模型能否通过主动探索构建空间信念? Theory of Space: Can Foundation Models Construct Spatial Beliefs through Active Exploration?

Pingyue Zhang, Zihan Huang, Yue Wang, Jieyu Zhang, Letian Xue, Zihan Wang, Qineng Wang, Keshigeyan Chandrasegaran, Ruohan Zhang, Yejin Choi, Ranjay Krishna, Jiajun Wu, Li Fei-Fei, Manling Li 📅 2026-02-04 👍 23 2026-07-13 08:35
主动探索 具身智能 基础模型 空间推理 认知地图

评估基础模型在部分可观环境中通过主动探索构建、修正和利用空间信念的能力

前置知识

部分可观环境(Partial Observability)

智能体无法一次性获取环境的全部信息,必须通过主动行动来收集缺失信息。在这种设置下,智能体需要在不确定性下做出决策,选择能最大化信息增益的行动。这与被动接收完整观测的场景形成鲜明对比,更接近真实世界中具身智能体的工作方式。

本文的核心框架建立在部分可观环境之上,理解这一概念是理解为什么需要主动探索而非被动推理的前提。

认知地图(Cognitive Map)

认知地图是认知科学中的经典概念,指生物体在大脑中形成的对外部空间结构的内部表征。它是一种心理模型,能够编码物体位置、方向和空间关系等信息。在本文中,作者要求模型显式输出其认知地图,以诊断模型的内部空间信念质量。

认知地图是本文评估框架的核心创新点,通过探测模型的认知地图来评估其空间信念的正确性和一致性。

空间信念(Spatial Belief)

智能体通过探索积累的关于空间布局的内部知识状态,包括已观测物体的位置和方向,以及对未观测区域的不确定性估计。空间信念需要具备三个能力:构建(从部分观测整合信息)、修正(在环境变化时更新信念)和利用(将信念用于下游任务)。

本文将空间信念作为核心评估对象,而非传统的任务完成准确率,这是评估范式的重要转变。

信念惯性(Belief Inertia)

智能体在面对与已有信念矛盾的新证据时,难以覆写过时的先验知识。这类似于心理学中的确认偏误,模型倾向于维持初始形成的信念,即使新的观测明确表明环境已经改变。本文发现这种现象在视觉模型中尤为严重。

信念惯性是本文发现的关键问题之一,揭示了基础模型在动态环境中更新空间知识的根本缺陷。

研究动机

当前的空间推理评估存在根本性的范式缺陷。大多数基准测试要么是被动的(给定完整观测让模型推理),要么是任务驱动的(要求完成特定目标如“找到红色椅子”)。被动评估无法揭示模型是否具备主动获取信息的能力,而任务驱动评估则将探索效率与任务表现混为一谈,导致空间表征脆弱且缺乏泛化性。认知科学研究表明,主动探索带来的空间理解显著优于被动接收相同信息。然而,现有多模态基础模型在被动感知和推理任务上表现出色,但其在部分可观环境下支持主动、自导探索的能力尚未被系统研究。特别是,这些模型能否决定接下来观测什么以构建和维持连贯的空间信念,仍然是一个未解之谜。

本文的目标是本文提出THEORY OF SPACE框架,旨在系统评估基础模型是否能够通过主动探索构建、修正和利用内部空间信念。具体目标包括:(1)评估模型从被动观察者转变为主动探索者的能力;(2)通过认知地图探测诊断模型内部空间信念的质量;(3)量化探索效率,即每一步行动减少了多少不确定性;(4)测试模型在环境变化时修正信念的能力。最终目标是将空间评估从“模型能否回答问题”转变为“模型能否通过高效信息收集构建和维护连贯、可修正的世界模型”。

与已有工作不同的是,本文的独特切入角度在于将探索本身作为一等公民的决策问题来研究,而不是将其附属于任何单一的下游任务。与现有工作不同,本文(1)采用任务无关的探索策略,专注于构建通用空间信念;(2)通过显式的认知地图探测来直接评估模型的内部表征质量,而非仅依赖行为成功;(3)引入信息增益作为探索效率的量化指标;(4)设计虚假信念范式来测试模型的信念修正能力。这种评估范式的转变使我们能够精确诊断失败来源:是感知错误、信念不稳定还是信念修正困难。

核心方法

THEORY OF SPACE的评估框架可以类比为一个“空间智能体检”:不是测试模型能否回答关于空间的问题,而是测试它能否主动探索、构建地图、并在地图错误时修正它。整体技术路线包括三个核心组件:(1)任务无关的主动探索,模型需要在部分可观环境中自主选择移动、旋转、观察等行动来构建空间信念;(2)信念利用评估,通过路线级(基于路径的自我中心推理)和调查级(基于地图的异中心映射)两类下游任务测试模型能否有效利用其空间信念;(3)认知地图探测,要求模型在每一步显式输出其内部认知地图,使我们能够直接评估信念质量而非仅依赖任务准确率。

本文最核心的创新是将空间信念的构建过程显式化和可测量化。传统方法将模型视为黑箱,只能从最终答案推断其内部状态,而本文要求模型在探索的每一步都外化其认知地图——一个结构化的JSON表征,记录所有观测到的物体位置、方向和空间关系。这使得我们可以计算认知地图的正确性(与真实布局的对齐程度)、感知质量(每次新观测的准确性)、自跟踪能力(对自身位姿的估计)、稳定性(信念是否随时间退化)以及局部-全局一致性。更重要的是,我们还要求模型识别未观测区域来评估其不确定性建模能力。这种“显式信念探测”是区别于以往工作的本质创新,它将评估从行为成功转向表征能力的直接评估。

方法步骤详情

评估流程分为两个主要阶段。第一阶段是探索阶段:智能体被放置在由N×M网格生成的多房间室内布局中,每个场景包含n个命名物体(每个有整数坐标和朝向)。智能体从随机位置出发,被告知房间总数和所有物体名称,然后自主选择行动:Goto(移动到可见物体)、Rotate(原地旋转90°/180°/270°)、Observe(感知90°视场内的可见物体)、Query(获取物体的绝对坐标)和Term(终止探索)。每次Observe都会返回文本或视觉反馈,文本世界提供离散化的方向和距离标签,视觉世界提供自我中心的RGB图像。第二阶段是推理阶段:探索结束后,模型需要完成9类空间任务,包括路线级任务(成对方向、视角采取、视角判断、动作到视图、视图到动作)和调查级任务(异中心映射、心理旋转、位置到视图、视图到位置)。

技术新颖性

本文的技术新颖性体现在多个层面。首先,评估范式的创新:从任务驱动转向任务无关,从被动推理转向主动探索,从行为成功转向表征质量。其次,认知地图探测机制是全新的贡献,通过要求模型在每一步输出结构化的空间信念,实现了对内部状态的直接测量。第三,信息增益指标(E)的定义:通过AC-3约束传播算法计算每个物体可能位置集合的大小,量化每一步探索消除的不确定性。第四,虚假信念范式的设计:在初始探索后悄悄改变物体位置或朝向,测试模型能否检测到变化并修正信念,这借鉴了发展心理学中的虚假信念测试。第五,信念惯性的量化方法:通过计算更新后信念的残差误差是否仍指向过时先验来衡量系统性偏差。

THEORY OF SPACE:主动探索、信念探测和评估
Figure 1: THEORY OF SPACE:主动探索、信念探测和评估
THEORY OF SPACE评估任务套件
Figure 3: THEORY OF SPACE评估任务套件
内部空间信念探测
Figure 5: 内部空间信念探测

实验结果

实验结果揭示了几个关键发现。首先是主动-被动差距:所有模型在需要自主探索时表现显著下降,GPT-5.2在视觉世界中从57.1%降至46.0%,Gemini-3 Pro从60.5%降至57.3%。其次是效率差距:规则代理(SCOUT代理)在约9步内达到目标覆盖,而基础模型需要≥14步且没有提高信念准确性。第三是模态差距:所有模型在文本环境中的表现远优于视觉环境,GPT-5.2在文本世界达到72.0%准确率,视觉世界仅为46.0%。第四是认知地图质量问题:感知是视觉世界的初始瓶颈,特别是物体朝向识别接近随机水平;信念不稳定导致正确信息随时间被覆写或遗忘。第五是信念惯性:在虚假信念任务中,视觉模型的朝向惯性高达68.9%,表明它们难以覆写过时的空间先验。人类测试者在两种环境中都显著优于基础模型,视觉环境中差距尤为明显(人类96.4% vs 最佳模型57.3%)。

任务套件比较
Table 1: 任务套件比较
通过主动探索进行信念构建的利用性能
Table 2: 通过主动探索进行信念构建的利用性能
通过被动观测进行信念构建的利用性能
Table 3: 通过被动观测进行信念构建的利用性能
通过认知地图探测评估的空间信念质量
Table 5: 通过认知地图探测评估的空间信念质量
环境变化下的信念更新
Table 7: 环境变化下的信念更新
视觉世界中评估准确率与探索成本的关系
Figure 2: 视觉世界中评估准确率与探索成本的关系
文本世界中信息增益随探索步数的累积变化
Figure 4: 文本世界中信息增益随探索步数的累积变化
信息增益与认知地图正确性随步数的变化
Figure 6: 信息增益与认知地图正确性随步数的变化
查看结构化数据
任务指标本文基线提升
视觉世界主动探索 平均准确率 Gemini-3 Pro: 57.3% 人类: 96.4% 比GPT-5.2高11.3个百分点
文本世界主动探索 平均准确率 Gemini-3 Pro: 81.5% 人类: 86.7% 比GPT-5.2高9.5个百分点
认知地图正确性(视觉) 位置准确性 Gemini-3 Pro: 62.5% GPT-5.2: 42.0% 提升20.5个百分点
虚假信念识别(视觉) F1分数 GPT-5.2: 14.3%(朝向) 文本世界GPT-5.2: 97.9% 模态差距达83.6个百分点
探索效率 平均步数 GPT-5.2视觉: 17.2步 SCOUT代理: ~9步 效率差距近一倍

局限与改进

本文存在几个重要局限性。首先,实验环境虽然提供了文本和视觉两种模态,但仍然是程序化生成的简化室内场景,与真实世界的复杂性存在差距。物体数量有限(每房间4个),房间布局遵循树状拓扑,这些简化可能高估了模型的实际能力。其次,评估任务虽然覆盖了路线级和调查级知识,但仍然局限于静态空间关系推理,未涉及动态交互如物体操作或路径规划。第三,认知地图探测虽然提供了有价值的诊断信号,但作者也承认这是一种有损压缩,模型的内部状态可能比其显式输出更丰富。第四,评估仅覆盖了当前最先进的闭源和开源模型,未探索微调或专门训练的影响。第五,人类测试样本量较小(仅3名受试者),统计显著性有限。此外,视觉环境中的感知瓶颈可能部分归因于图像质量(384×384分辨率)而非模型本身的推理能力。

独立分析的弱点

基于独立分析,我认为本文存在以下弱点。第一,环境复杂度不足:程序化生成的场景虽然可控,但缺乏真实世界的语义丰富性和布局多样性。改进方向是引入真实室内扫描数据(如ScanNet、Matterport)并增加物体密度和种类。第二,探索终止策略未充分探索:模型可以随时终止探索,但论文未深入分析最优终止时机的决策机制。可以研究基于不确定性阈值的自适应终止策略。第三,多智能体协作未涉及:论文提到这是未来方向,但未提供任何初步实验。在真实场景中,多智能体协作探索是提高效率的关键。第四,跨场景泛化未测试:模型在单一场景类型上评估,未测试其在不同环境(如室外、工业场景)中的泛化能力。第五,信念修正的训练方法未探索:论文发现信念惯性是关键问题,但未提出具体的训练或提示策略来缓解这一问题。

未来方向

作者提出了几个重要的未来方向,包括扩展到多智能体探索场景,这将引入协调和信念共享的新挑战。基于本文的成果,可以延伸以下方向:(1)开发不确定性感知的探索策略,让模型主动识别并针对其知识空白进行探索;(2)研究长时序信念维护机制,防止空间知识随时间退化;(3)设计专门的训练目标来缓解信念惯性,如对比学习或课程学习;(4)将评估框架扩展到3D空间和连续运动空间;(5)探索语言接地的空间推理,即通过自然语言描述和查询来构建和利用空间信念;(6)研究认知地图的层次化表征,支持从局部细节到全局抽象的多尺度空间理解。

复现评估

本文的复现性较好。作者提供了完整的代码(GitHub仓库)、数据集(HuggingFace数据集)和详细的实验设置描述。环境使用ThreeDWorld和Objaverse构建,这两个都是开源工具。评估使用了100个场景,每个场景3个问题,共2700个问题,样本量充足。然而,复现存在以下挑战:(1)需要调用闭源API(GPT-5.2、Gemini-3 Pro、Claude-4.5 Sonnet),成本较高;(2)视觉环境的渲染需要ThreeDWorld模拟器,安装配置相对复杂;(3)人类测试需要招募受试者并进行实验。对于开源模型(GLM-4.6V、Qwen3-VL、InternVL-3.5),复现相对容易。整体而言,中等算力即可完成评估,但完整的主动探索评估可能需要数小时的API调用时间。