← 返回 2026-02-27

一致性三位一体:定义通用世界模型的核心原则 The Trinity of Consistency as a Defining Principle for General World Models

Jingxuan Wei, Siyuan Li, Yuhang Xu, Zheng Sun, Junjie Jiang, Hexuan Jin, Caijun Jia, Honghao He, Xinglong Xu, Xi bai, Chang Yu, Yumou Liu, Junnan Zhu, Xuanhe Zhou, Jintao Chen, Xiaobin Hu, Shancheng Pang, Bihui Yu, Ran He, Zhen Lei, Stan Z. Li, Conghui He, Shuicheng Yan, Cheng Tan 📅 2026-02-26 👍 203 2026-07-13 08:35
一致性评估 世界模型 基准测试 多模态学习 视频生成

提出模态/空间/时间三维一致性框架及CoW-Bench基准,系统评估世界模型的物理模拟能力

前置知识

世界模型(World Model)

世界模型是一种内部模拟器,能够学习客观物理定律、推理反事实场景并根据当前动作预测未来状态。它不同于简单的像素统计拟合,而是需要理解因果关系、几何结构和语义信息,从而在内部构建一个可执行的现实世界模拟。真正的世界模型应能支持智能体在三维空间中的导航、交互和规划,是通向通用人工智能(AGI)的核心基础设施。

本文的核心论点是:只有同时满足模态、空间、时间三维度一致性的系统才配称为世界模型,理解世界模型的定义是把握全文论证逻辑的前提。

模态一致性(Modal Consistency)

模态一致性是指将文本、图像、触觉等异质信息对齐到统一语义空间的能力,充当世界模型的认知接口。它本质上是一个高维异质流形对齐问题——视觉投影保留大量高频物理熵,而文本投影高度抽象离散符号逻辑,这种熵不对称性是直接对齐的主要障碍。从CLIP的双塔对比学习到MM-DiT的正交解耦架构,模态一致性经历了从几何隔离到认知对齐的演化。

模态一致性是三位一体的第一个支柱,决定了模型能否正确理解和执行跨模态指令,是评估世界模型语义接口能力的核心维度。

空间一致性(Spatial Consistency)

空间一致性是指构建尊重几何、遮挡和物体恒常性的3D感知表示的能力,确保模拟世界的静态可信度。它可分解为两个层次:微观层面的局部邻域拓扑一致性(流形上的Lipschitz连续性)和宏观层面的全局几何一致性(多视角几何中的极线等变性)。从2D代理流形到隐式连续场(NeRF),再到显式拉格朗日基元(3DGS),空间一致性技术不断演进。

空间一致性是三位一体的几何基础,决定了模型能否生成在三维空间中自洽的场景,是评估世界模型物理建模精度的核心维度。

时间一致性(Temporal Consistency)

时间一致性是指遵循物理定律和因果逻辑随时间演化的能力,确保动态演进遵循可预测且逻辑合理的轨迹。它不仅要求帧间视觉连续性,更要求规则遵循的演化——模型需要理解物理事件的发生顺序,而非仅仅进行像素插值。从潜在时间膨胀到离散自回归建模,再到原生时空DiT架构,时间一致性从简单帧插值进化到因果世界模拟。

时间一致性是三位一体的因果引擎,决定了模型能否模拟物理世界的时间演化规律,是区分视觉欺骗与真正物理模拟的关键维度。

统一多模态模型(Unified Multimodal Model, UMM)

统一多模态模型是一种将感知、语言和推理整合到共享语义流形中的架构范式。不同于早期松耦合的专用模块堆叠,UMM通过MM-DiT等正交解耦架构,在单一参数空间中实现跨模态的协同优化。代表模型包括GPT-image系列、Emu3.5等,它们展示了数据驱动的缩放定律在逼近物理动力学方面的潜力。

UMM是本文讨论的核心架构范式,CoW-Bench的一个重要目标就是评估UMM和视频生成模型在一致性维度上的表现差异。

CoW-Bench(Consistency of World-models Benchmark)

CoW-Bench是本文提出的统一评估基准,包含1,485个精心构建的样本,组织为18个细粒度子任务,覆盖模态、空间、时间三个基础维度及其两两交叉。每个子任务配备5个原子检查项,采用0-2分的序数评分,通过2×2网格时间采样协议进行评估。该基准的核心创新在于将一致性形式化为约束满足问题,而非依赖传统的感知质量指标。

CoW-Bench是本文的核心贡献之一,其设计哲学和评估结果直接支撑了论文关于世界模型应满足三位一体一致性的核心论点。

研究动机

当前生成式AI领域面临一个根本性问题:尽管以Sora为代表的视频生成模型展示了令人惊叹的视觉保真度,能够创建与现实难以区分的高保真视觉序列,但这些模型本质上仍是「朴素物理学家」——它们频繁遭受结构性幻觉、时间不一致性和因果律违反等问题的困扰。这些症状表明系统只是在模仿像素统计规律,而非内化物理原理。具体而言,现有模型存在四重困境:评估主观性(依赖VLM裁判导致的误判)、场景温室效应(分布内记忆掩盖了分布外泛化不足)、时间短视(仅测试短序列生成,掩盖了长程模拟中的状态漂移)、交互静态性(缺乏因果干预的评估接口)。例如,在CoW-Bench测试中,即便是顶级的闭源图像模型GPT-image-1.5,在身份-属性绑定(Id+Attr)维度上也仅达到1.19分(满分2分),而开源视频模型HunyuanVideo更是低至0.01分,说明语义通道从语言到感知状态的变量绑定仍然极不稳定。

本文的目标是本文的核心目标是为通用世界模型建立一个有原则的理论框架,定义其必需的本质属性。具体而言,作者提出世界模型必须扎根于「一致性三位一体」:模态一致性作为语义接口、空间一致性作为几何基础、时间一致性作为因果引擎。在此理论框架之上,作者进一步引入CoW-Bench基准,旨在提供一个严格的、非平凡的评估体系,能够系统地解耦和评估世界模型的三核心一致性及其两两融合关系,从而精确诊断当前系统的失败模式,为未来架构设计指明方向。

与已有工作不同的是,本文的独特切入角度在于:不再将世界模型的能力视为独立优化的单点指标,而是强调跨维度交互的鲁棒性。作者认为,真正致命的失败不是视觉伪影,而是跨维度一致性的断裂——无法将语义指令绑定到几何角色(模态-空间)、在长程演化中无法保持身份(模态-时间)、在导航过程中丧失环境恒常性(时间-空间)。这种视角的根本性转变体现在:现有基准依赖MMLM裁判评估视觉质量,而CoW-Bench将一致性形式化为严格的约束满足问题,能够揭示模型生成看似合理纹理却悄然违反逻辑承诺的「约束回退」现象。

核心方法

本文的方法论可概括为「理论框架+系统综述+实证基准」三位一体的研究范式。首先,作者从理论层面提出一致性三位一体框架,将世界模型的能力空间解构为模态、空间、时间三个正交但协同的维度,每个维度都有独立的理论基础和演化轨迹。其次,作者系统回顾了多模态学习的演化历程,揭示了从松耦合专用模块向统一架构演进的轨迹,论证了打破维度壁垒是内部世界模拟器涌现的必要基础。最后,作者引入CoW-Bench基准,通过精心设计的多帧评估协议,将一致性操作化为严格的约束满足问题,对主流视频生成模型和统一多模态模型进行统一评估。这三部分形成闭环:理论框架指导评估设计,评估结果验证理论假设,综述内容提供技术演化的上下文。

本文的核心创新在于提出「一致性不是世界模型的可选属性,而是其存在的判据」这一根本性论断。与已有方法的本质区别体现在三个层面:第一,在理论层面,现有工作将世界模型视为内容生成工具的延伸,而本文将其提升为物理模拟器的范式界定,用三维度一致性作为硬性准入标准。第二,在评估层面,现有基准(如VBench、TiViBench)依赖VLM裁判评估视觉质量,本质上是「模型评估模型」,存在内在的评估幻觉问题;而CoW-Bench采用原子分解策略,将评估信号分解为16个可复用的原子检查项(如身份锁定、属性绑定、约束不松弛等),每个检查项都有操作性定义,确保评估不依赖审美偏好而依赖可验证现象。第三,在发现层面,CoW-Bench揭示了一个关键现象:最强的分离出现在跨一致性任务中,例如TS-Maze-2D(导航式结构保持)即使对Nano Banana Pro这样的顶级模型也仅为4.46分,表明全局世界状态维护和轨迹级约束执行即使在逐帧保真度优秀时仍未解决。

方法步骤详情

本文的方法可分为以下步骤:第一步,理论框架构建(§2):分别解构模态一致性(从超球面假设到MM-DiT正交解耦)、空间一致性(从2D代理流形到显式拉格朗日基元)、时间一致性(从潜在时间膨胀到原生时空DiT)的理论基础和演化路径,每个维度都建立了统一的微分方程视角。第二步,多维度融合分析(§3):系统研究模态-空间融合(像素空间操纵、视图空间映射、体积空间表示、强化学习对齐)、模态-时间融合(端到端可扩展建模、显式结构控制、统合理解与生成共生架构)、空间-时间融合(隐式时空学习、显式几何锚定、统一时空表示、强化学习对齐)四条技术路径。第三步,基准设计(§5):采用一致性中心任务蓝图设计,构建18个子任务覆盖6大任务族;采用推理驱动的种子构建策略,利用具有深度推理能力的模型设计挑战性实例;采用原子分解评估框架,定义16个原子检查项和18个度量族;采用2×2网格时间采样协议,评估者必须逐帧分析并提供0-2分评分。第四步,大规模评估:对包括Sora、Kling、GPT-image-1.5、Seedream-4-5、Nano Banana Pro、Wan2.2-I2V-14B、SkyReels-V2、HunyuanVideo、BAGEL、Emu3.5在内的主流模型进行全面评估。

技术新颖性

本文的技术新颖性体现在多个层面。首先,「一致性三位一体」理论框架本身具有原创性——虽然模态、空间、时间各自的研究已有深厚积累,但将它们形式化为世界模型的正交必要条件,并论证其协同涌现特性,这在理论层面是全新的。其次,CoW-Bench的设计哲学突破了现有评估范式:不同于UniBench等面向判别感知的评估,CoW-Bench面向生成模拟;不同于MANBench等基于VQA准确率的评估,CoW-Bench采用多因素约束满足问题;不同于仅关注认知深度的评估,CoW-Bench强调时空纠缠带来的复杂性。第三,原子分解评估框架具有高度的可复用性和可诊断性——16个原子检查项在不同任务族中保持相同语义,确保跨任务比较在统一测量坐标系中进行。第四,论文揭示的「约束回退」现象(模型生成看似合理纹理却悄然违反逻辑承诺)为理解当前系统的根本局限提供了新视角。最后,论文提出的演化光谱(向量即动作→键即动作→提示即动作)为世界模型的未来发展路径提供了清晰的路线图。

The Trinity of Consistency in world models
Figure 1: The Trinity of Consistency in world models
Unified Representation Goal
Figure 3: Unified Representation Goal
Evolution of Modal Consistency: From Geometric Isolation to Cognitive Alignment
Figure 4: Evolution of Modal Consistency: From Geometric Isolation to Cognitive Alignment
The Modal Gap Challenge
Figure 5: The Modal Gap Challenge
Evolution of Multimodal Fusion Paradigms
Figure 6: Evolution of Multimodal Fusion Paradigms
Information Asymmetry in LLaVA
Figure 7: Information Asymmetry in LLaVA
MM-DiT Architecture
Figure 8: MM-DiT Architecture
Spatial Consistency via Multi-View Constraints
Figure 9: Spatial Consistency via Multi-View Constraints
Evolution of Spatial Consistency Paradigms
Figure 10: Evolution of Spatial Consistency Paradigms
Evolution of Spatial Consistency Paradigms (detail)
Figure 11: Evolution of Spatial Consistency Paradigms (detail)
Key Mechanisms for Advanced Spacetime Modeling
Figure 12: Key Mechanisms for Advanced Spacetime Modeling
Evolution of Temporal Consistency Paradigms
Figure 13: Evolution of Temporal Consistency Paradigms
Temporal Consistency and Identity Preservation
Figure 14: Temporal Consistency and Identity Preservation
Video Consistency Analysis: Spatial vs. Frequency View
Figure 15: Video Consistency Analysis: Spatial vs. Frequency View
Evolution of Video Generation Paradigms
Figure 16: Evolution of Video Generation Paradigms
Tool-use & Closed-loop Verification
Figure 17: Tool-use & Closed-loop Verification
Modal + Spatial Consistency: Language Controls Precise Spatial Relations
Figure 18: Modal + Spatial Consistency: Language Controls Precise Spatial Relations
Evolution of Modal Consistency and Spatial Consistency
Figure 19: Evolution of Modal Consistency and Spatial Consistency
Temporal + Spatial Consistency: Dynamic Object Permanence across Occlusion
Figure 28: Temporal + Spatial Consistency: Dynamic Object Permanence across Occlusion
Evolution of Spatial Consistency and Temporal Consistency
Figure 29: Evolution of Spatial Consistency and Temporal Consistency
Geometric Embedding Injection
Figure 30: Geometric Embedding Injection
Trajectory-Centric Foundation Models
Figure 31: Trajectory-Centric Foundation Models
Hierarchical Taxonomy of CoW-Bench
Figure 34: Hierarchical Taxonomy of CoW-Bench

实验结果

本文通过CoW-Bench对18个主流模型进行了全面评估,揭示了多项核心发现。首先,在总体排名上,闭源图像生成模型占据主导地位:GPT-image-1.5以85.62分位居榜首,紧随其后的是Nano Banana Pro(82.57分)和GPT-image-1(80.35分);而开源视频模型如HunyuanVideo仅获得54.63分,Allegro为52.67分,差距显著。其次,时间控制而非连贯性才是瓶颈:多个模型在时间线持久性(T-WL)上得分很高(如Sora达到9.32),表明生成视觉连续的画面已非最难部分;但需要规则遵循演化或结构化状态推进的时间任务表现参差不齐(如T-Rule和T-Stage-Order在不同模型间差异巨大)。第三,空间一致性在单视图3D场景中表现强劲,但跨视图锚定仍然脆弱:顶级模型在S-3D上超过9.0分(如Nano Banana Pro达9.61),但在TS-Maze-2D等跨一致性任务上显著下降。第四,融合任务揭示了真正的世界模型差距:最强分离出现在跨一致性族中,例如领先模型在MT-PropKeep上接近满分,但在MT-PropChange和TS-Maze-2D上明显退化。第五,模态一致性中身份-属性绑定是最难的接口原语:即使是顶级闭源图像模型也远未饱和(GPT-image-1.5: 1.19分),而许多视频生成器接近零分(HunyuanVideo: 0.01分)。第六,约束回退现象普遍存在:模型系统性地将不常见或严格的约束替换为更常见的默认值,这种「看起来合理但违反可验证约束」的失败模式正是CoW-Bench旨在揭示的。

Notation and Descriptions
Table 1: Notation and Descriptions
Mechanism Comparison: Discrete AR vs. Continuous Flow Matching
Table 2: Mechanism Comparison: Discrete AR vs. Continuous Flow Matching
Empirical Evolution of Cross-Generational Models
Table 3: Empirical Evolution of Cross-Generational Models
Taxonomy of Tasks in CoW-Bench
Table 4: Taxonomy of Tasks in CoW-Bench
Comprehensive Statistics of CoW-Bench
Table 5: Comprehensive Statistics of CoW-Bench
Metric families and their five sub-metrics
Table 6: Metric families and their five sub-metrics
Atomic library of CoW-Bench
Table 7: Atomic library of CoW-Bench
Compositional definition of metric families via the atomic library
Table 8: Compositional definition of metric families via the atomic library
Main results on CoW-Bench over 18 sub-tasks
Table 9: Main results on CoW-Bench over 18 sub-tasks
Modal-consistency results on CoW-Bench
Table 10: Modal-consistency results on CoW-Bench
Temporal-consistency results on CoW-Bench
Table 11: Temporal-consistency results on CoW-Bench
Spatial-consistency results on CoW-Bench
Table 12: Spatial-consistency results on CoW-Bench
Performance Comparison of Mainstream Models across Different Tasks
Figure 2: Performance Comparison of Mainstream Models across Different Tasks
Modal–Space consistency on CoW-Bench
Figure 35: Modal–Space consistency on CoW-Bench
Modal–Time consistency on CoW-Bench
Figure 36: Modal–Time consistency on CoW-Bench
Time-Space consistency on CoW-Bench
Figure 37: Time-Space consistency on CoW-Bench
Example diagrams of Modal sub-tasks
Figure 38: Example diagrams of Modal sub-tasks
Example diagrams of Spatial sub-tasks
Figure 39: Example diagrams of Spatial sub-tasks
Example diagrams of Temporal sub-tasks
Figure 40: Example diagrams of Temporal sub-tasks
Example diagrams of modal and spatial sub-tasks
Figure 41: Example diagrams of modal and spatial sub-tasks
Example diagrams of modal and temporal sub-tasks
Figure 42: Example diagrams of modal and temporal sub-tasks
Example diagrams of spatial and temporal sub-tasks
Figure 43: Example diagrams of spatial and temporal sub-tasks
Comparison with different models for modal consistency task
Figure 44: Comparison with different models for modal consistency task
Comparison with different models for spatial consistency task
Figure 45: Comparison with different models for spatial consistency task
Comparison with different models for temporal consistency task
Figure 46: Comparison with different models for temporal consistency task
Comparison with different models for modal and spatial consistency task
Figure 47: Comparison with different models for modal and spatial consistency task
Comparison with different models for modal and temporal consistency task
Figure 48: Comparison with different models for modal and temporal consistency task
Comparison with different models for spatial and temporal consistency task
Figure 49: Comparison with different models for spatial and temporal consistency task
Evolutionary spectrum of World Model paradigms based on interactive action spaces
Figure 50: Evolutionary spectrum of World Model paradigms based on interactive action spaces
查看结构化数据
任务指标本文基线提升
总体平均(18个子任务) AVG (0-10重缩放到0-100) GPT-image-1.5: 85.62 HunyuanVideo: 54.63 GPT-image-1.5相对HunyuanVideo提升56.7%
模态一致性-主体属性保真度 SUAT (0-2) GPT-image-1.5: 7.75 HunyuanVideo: 2.91 GPT-image-1.5相对HunyuanVideo提升166.3%
时间一致性-世界线持久性 WLIN (0-10) Sora: 9.32 Allegro: 7.03 Sora相对Allegro提升32.6%
空间一致性-多视图3D连贯性 MV3D (0-10) Nano Banana Pro: 9.61 HunyuanVideo: 6.04 Nano Banana Pro相对HunyuanVideo提升59.1%
时间-空间一致性-迷宫2D导航 MAZE (0-10) GPT-image-1.5: 7.26 Qwen-Image: 0.32 GPT-image-1.5相对Qwen-Image提升2168.8%
模态-时间一致性-触发事件遵从 TREV (0-10) GPT-image-1.5: 8.13 HunyuanVideo: 4.01 GPT-image-1.5相对HunyuanVideo提升102.7%
开放源码视频模型最佳 AVG (0-100) SkyReels-V2: 65.37 Allegro: 52.67 SkyReels-V2相对Allegro提升24.1%
开放源码图像模型最佳 AVG (0-100) Emu3.5: 77.76 BAGEL: 59.34 Emu3.5相对BAGEL提升31.0%

局限与改进

本文的局限性主要体现在以下几个方面。首先,CoW-Bench虽然设计精巧,但仍依赖GPT-4o等VLM作为评估裁判,尽管采用了原子分解和操作性定义来减少主观性,但「模型评估模型」的内在缺陷并未完全消除——VLM对细粒度物理属性(如摩擦系数、流体粘度)的感知精度极低,可能因视觉遮蔽逻辑而误判。其次,评估协议仅采样4帧进行分析,可能遗漏中间状态的微妙失败,尤其对于需要连续监控的物理模拟任务。第三,CoW-Bench主要关注视觉一致性维度,尚未深入评估触觉、听觉等其他感知模态的一致性,而真正的世界模型需要全模态的一致性保障。第四,论文的理论框架虽然系统完整,但部分论证依赖定性分析而非严格的数学证明,例如关于「一致性三位一体是世界模型存在的充要条件」这一核心论断,尚未提供形式化的必要性证明。第五,评估中的「约束回退」现象虽然被很好地揭示,但论文对如何系统性地解决这一问题提供的技术方案相对有限,更多停留在诊断层面而非处方层面。此外,部分高分模型(如GPT-image-1.5)为闭源系统,其架构细节不可知,使得从评估结果到技术改进的因果链条不够清晰。

独立分析的弱点

本文存在几个值得深入分析的弱点。第一,评估覆盖的模型虽多但时间跨度有限——主要集中在2024-2025年的模型,缺乏对更早期里程碑式工作(如DALL-E 2、Imagen)的评估,难以完整展示技术演化的全貌。第二,CoW-Bench的任务设计虽然覆盖了6大任务族,但每个子任务仅包含69-91个样本,样本量相对有限,可能导致评估结果的统计显著性不足;建议未来扩展至千级样本以提高评估的鲁棒性。第三,论文对「约束回退」现象的分析停留在症状描述层面,缺乏对其根本原因的深入探究——为什么模型倾向于将罕见约束替换为常见默认值?这与训练数据的分布偏差、模型的归纳偏置还是优化目标的缺陷有关?建议引入消融实验来隔离各因素的影响。第四,空间一致性部分对3DGS等显式基元的讨论虽然详尽,但对其在生成式世界模型中的实际应用效果缺乏定量分析,理论综述与实证评估之间存在一定脱节。第五,论文提出的演化光谱(向量即动作→键即动作→提示即动作)虽然具有启发性,但缺乏对各阶段转换条件的定量刻画,难以指导实际的架构设计决策。

未来方向

本文为未来研究开辟了多个重要方向。首先,基于CoW-Bench揭示的跨一致性瓶颈,未来工作应重点探索跨维度协同优化的架构设计——例如,在MM-DiT中引入显式的几何约束注入机制,使模态一致性和空间一致性在注意力计算中自然耦合。其次,论文提出的「提示即动作」范式(Prompt-as-Action)指出了一个关键方向:开发能够将自然语言意图翻译为通用时空动态模拟的语义编译器,这需要将LLM的符号推理能力与物理引擎的数值模拟能力深度融合。第三,CoW-Bench目前主要评估视觉一致性,未来应扩展至多感官一致性评估(触觉、听觉、本体感觉),构建真正的全模态世界模型基准。第四,论文揭示的「约束回退」现象启发了一个重要的研究方向:开发约束感知的训练策略,例如在损失函数中引入约束违反的显式惩罚项,或在强化学习框架中将约束满足作为硬性奖励信号。第五,从工程应用角度,未来工作应探索如何将三一致性框架嵌入到实际的机器人系统中,验证其在具身AI任务中的有效性——例如,在导航任务中同时评估空间一致性(能否避免碰撞)、时间一致性(能否遵循路径规划)和模态一致性(能否理解自然语言指令)。最后,论文提出的测试时计算范式(Test-time Compute)值得深入探索,通过在推理阶段引入物理约束校验和因果推理,可能显著提升模型的长程一致性表现。

复现评估

本文的复现性整体较好。论文提供了完整的代码、排行榜和数据集链接,CoW-Bench的1,485个样本及评估协议均已公开。评估框架采用的原子分解策略和0-2分序数评分具有高度的操作性定义,不同评估者之间应能获得较高的一致性。然而,完全复现存在以下挑战:首先,评估依赖GPT-4o作为裁判模型,其API的版本更新可能导致评估结果的不可复现性;其次,部分被评估的闭源模型(如Sora、GPT-image-1.5)的API可能随时变更或下线,使得后续研究者难以完全复现论文报告的数字。在算力方面,论文本身的评估工作主要依赖各模型的API调用,无需大规模本地计算资源;但若要基于CoW-Bench对新模型进行评估,则需要获取相应模型的访问权限。数据集构建方面,论文采用了推理驱动的种子构建策略,利用具有深度推理能力的模型设计挑战性实例,这一过程的随机性可能导致不同批次构建的数据集存在差异。总体而言,论文的理论框架和评估方法论具有良好的可复现性,但具体的数字结果受模型API版本和评估模型版本的影响较大。