Principia:面向视频模型的成对物体关联性物理测试基准 Principia: Relational Physics Tests for Video Models
以成对物体必须满足的物理不变量检验视频模型是否真正理解物理
前置知识
关系不变量(Relational Invariant)
指同处一个场景、服从同一物理定律的两个物体,其运动量之间必须满足的确定性关系,如等式、比值或时序排序。例如不同质量的滑块在相同斜面上必须同时到底($t_1 = t_2$);单摆周期之比必须等于摆长平方根之比 $T_1/T_2 = \sqrt{l_1/l_2}$。这类关系只依赖定律本身,与相机标定、物体尺度、帧率无关。
本文全部评测都建立在关系不变量之上:评分公式、八种现象的设计、反物理视频的构造均由它驱动,不理解它就无法理解 Principia 的评分逻辑。
VBench 与视觉质量指标的局限
VBench 是视频生成领域最常用的自动评测基准,从主体一致性、运动平滑度、美学等多个维度为视频打分,本文评测的六个生成器都取得约 0.8 分。它衡量的是画面'看起来好不好',而非'运动是否符合物理定律',因此视觉上逼真但动力学错误的视频同样能得高分。
论文的核心反差结论——VBench 高分与 Principia 低分几乎正交——正是通过与 VBench 对照得出的,读者需要知道 VBench 测什么才能理解这一发现的分量。
SAM3 与像素空间轨迹追踪
SAM3 是可提示的视频分割追踪模型,本文用它在整段视频内分割并追踪物体的质心或底边位置(由手工标注初始点启动)。所有测量(落体时间、反弹高度、摆动周期、弹簧伸长)都在像素空间完成,只使用像素量的比值与相等关系,因此无需相机内参、真实尺度或帧率信息。
它解释了评分为何能做到免标定(Unit-Free),是理解评测协议与附录相机运动鲁棒性实验的前提。
Principia-Synth 与反物理视频
在 Isaac Sim 仿真器中,对每种现象分别渲染物理正确版本与故意违反关系不变量的'反物理'版本,构成合成测试集 Principia-Synth。真实世界无法拍摄反物理视频,而 AI 生成的违规视频常带视觉伪影会混淆判断,仿真因此提供了干净可控的对照组。
VLM 评测完全基于该数据集的二值真值(PASS/FAIL),理解它才能明白 VLM 一致性分数 $A_\phi$ 度量的是什么能力。
世界模型假设
指视频生成模型被寄望为'世界模拟器':能预测动作的后果、支撑机器人规划与决策。该假设要求模型不仅渲染外观,还要隐式遵守物理定律。近年来新一代视频模型常被宣传为世界模型,但缺乏系统的物理验证手段。
论文动机直接针对这一宣传:如果模型连成对物体的关系约束都保持不住,它作为世界模拟器的资格就存疑,这决定了全文的问题意识。
研究动机
评测视频模型的物理推理长期卡在一个技术障碍上:绝对运动量(速度、加速度、落体时间)的测量依赖帧率、物体尺度和相机标定,而这些信息在生成视频里往往模糊或根本不存在。现有基准各有缺陷:IntPhys、Physion 等仿真推理基准不接触真实视频分布;PhysBench、CausalVQA 等以问答形式评 VLM,无法量化生成侧;VideoPhy、PhyGenBench、PhyWorldBench 等靠人或 VLM 主观评'合理性',但合理不等于物理正确——一段视觉以假乱真、两个滑块却不同时落地的视频照样拿高分;Physics-IQ、Morpheus、PISA 等真实视频基准要么把生成轨迹与单一参考轨迹匹配(惩罚了物理上同样合法的其他未来),要么需要恢复米制物理量。单一现象研究(如自由落体中的伽利略等效原理测试)虽证明关系式评测可行,却没有回答模型能否在不同现象间保持一致的物理结构。问题的紧迫性在于:本文测得六个最先进视频生成器在 VBench 上全部约 0.8 分,视觉质量已不是瓶颈,而物理一致性此前无人系统检验。
本文的目标是本文要回答:当视觉以假乱真时,视频生成模型和视觉语言模型到底懂不懂牛顿力学?目标有三。第一,构建覆盖八种牛顿现象——重力、恢复系数、摩擦、转动惯量、抛体运动、动量、单摆、弹簧振子——横跨平动、转动、碰撞、振动四大动力学的真实场景基准,最终规模 529 个场景(401 实拍 + 128 编辑增强),每个场景中成对物体除被测变量外其余条件严格对齐,使关系不变量精确成立。第二,提出免标定的连续一致性分数,直接在图像空间量化物理违反,不需要米制尺度、速度或相机内参。第三,用同一套关系测试双向评测:生成器按其生成运动是否保持不变量打连续分,VLM 按能否识别关系性物理违规打二值吻合率,并由 Isaac Sim 渲染的物理正确/反物理视频对(Principia-Synth)为后者提供真实世界拍不出来的可控对照。附加目标包括对测试集污染鲁棒(分数在每条视频内部计算)、可通过图像编辑低成本扩展视觉多样性,以及能作为改进模型物理一致性的训练信号来源。
与已有工作不同的是,本文的独特切入角度是把'测绝对量'换成'验关系'。直觉来自一个思想实验:单看一个滑块滑下斜面,视觉信息里没有质量和摩擦系数,只能定性判断它是否在加速;但把两个不同质量的滑块放在完全相同的斜面上同时释放,定律要求它们同时到底——$t_1 = t_2$ 是定律强加的不变量,与相机、尺度、帧率无关,系统性偏离即暴露物理被违反,哪怕每个滑块单独看都'很合理'。物理定律因此对多物体运动施加等式、比值或时序排序等可从像素空间直接检验的约束。与最接近的前驱 Thozhiyoor et al. 的双物体重力实验(仅自由落体、仅生成器)相比,Principia 推广到八现象四类别并同时评测 VLM;Table 1 显示它是唯一同时具备免标定、关系性、定量物理评分、多现象、真实视频、生成器+VLM 六项特征的基准。这一角度还附赠两个性质:关系比值逐视频内部计算,天然免疫测试集污染;不依赖单一参考轨迹,不会误伤合法的替代未来。
核心方法
整体直觉:物理定律对同场景中服从同一定律的两个物体施加可预测的运动关系,检验这些关系即可判断模型是否内化了定律,而完全不必知道绝对量。技术路线:基准由 529 个真实场景构成,每场景含成对物体与一个待检验不变量,例如恢复系数实验中反弹高度满足 $r = e^2 h$,故不变量为 $r_1/h_1 = r_2/h_2$;斜面摩擦中加速度 $a = g(\sin\theta - \mu\cos\theta)$ 与质量无关,故不变量为 $t_1 = t_2$。评测生成器时,以实拍首帧(用 Nano Banana 2 修掉实验者与器械)加现象专属文本提示条件化六个生成器,多种子采样;用 SAM3 在像素空间追踪物体,自动检测撞击、到达、转折等事件,计算归一化一致性分数 $S_\phi = 1 - |F_\phi(o_1) - F_\phi(o_2)| / (|F_\phi(o_1)| + |F_\phi(o_2)|)$。VLM 侧用 Isaac Sim 渲染物理正确与反物理视频,让模型输出 PASS/FAIL 并与真值比对。
核心创新是把物理正确性定义为'关系一致性',而非轨迹相似或主观合理,与已有方法的本质区别有三。其一,免标定定量评分:分数只由像素空间量的比值与相等构成,$S_\phi$ 无单位且限于 $[0,1]$,$S_\phi=0.95$ 约对应 10% 的关系不对称,因此对相机内参、帧率、尺度完全不敏感——附录的相机运动实验证实,除按水平距离排序计分的抛体外,其余现象对 2%–10% 的平移缩放几乎无反应。其二,反事实区分力:单物体运动'看起来合理'无法排除巧合,成对关系违反才是定律层面的证据,Figure 2 展示的正是单滑块完美、双滑块穿帮的案例。其三,一测两用:同一套不变量既给生成视频打连续分,也支持在 Isaac Sim 中构造反物理对照给 VLM 出二值判断题。相比轨迹匹配惩罚合法替代未来、定律评测需要恢复米制量、仿真基准脱离真实分布,本设计在 Table 1 的六个维度上首次全占:Unit-Free、Relational、定量物理分、多现象、真实视频、双模型类型。
方法步骤详情
流程五步。第一步数据构建:机械加工保证成对物体几何匹配(如实心/空心圆柱对的几何公差控制在 5% 内),机械导轨实现同步释放,逐对验证接触面材料与无滑移条件,人工剔除侧向漂移、释放时差、大摆角等失败样本;共拍约 750+ 段视频,过滤后保留 401 个场景,再用图像编辑模型增强至 529 个。第二步构造生成条件:提取各场景首帧,用 Nano Banana 2 修补掉实验者、悬线与释放装置,配八现象各自的固定机位提示词,输入六个生成器多随机种子采样。第三步轨迹提取:SAM3 依手工初始点分割并追踪每个物体。第四步事件检测与计分:按现象检测地面撞击(垂直速度变号)、斜面到达(最低像素越过标注线)、摆动半周期(水平速度变号)、弹簧转折点等事件,得到 $F_\phi(o_1)$ 与 $F_\phi(o_2)$ 代入 $S_\phi$;先用方向一致性分数 DCS(逐帧位移与期望方向余弦的均值,阈值 0.8)过滤方向都错的视频并记 0 分。第五步 VLM 评测:对真实与 Principia-Synth 反物理视频给现象专属 PASS/FAIL 提示,计算与真值的吻合率 $A_\phi$。
技术新颖性
新颖性可分三层看。基准设计层:此前要么全在仿真器里(IntPhys、PHYRE/IPHYRE、Physion,物体外观与真实分布脱节),要么做单参考轨迹匹配(Physics-IQ、PISA,把'与录像不同'当'错'),要么交主观裁判(VideoPhy 系,合理≠正确)。Principia 用真实器械录制却只测场景内关系比值,同时拿到真实分布与客观物理真值,Table 1 中六项特征独此一家。评分理论层:$S_\phi$ 把'两个本应相等的量'的不对称度归一化为无单位连续分,保留定律的定量信息且可跨现象聚合;抛体与动量这类只含序关系的不变量(射程 $R \propto v \propto \sqrt{h}$,滑距 $x \propto h$ 或 $x \propto 1/m$)按排序正确率单独计分,体现了对不同定律结构评分方式的适配。工程层:作者自产器械把几何公差压到 5%,用导轨保证同步释放,用 SAM3 全自动测量,并系统验证相机运动鲁棒性,这套实验物理级的对照控制在已有视频物理基准中没有先例;529 场景 × 多种子 × 6 生成器 × 4 VLM 的评测规模也属首次。
实验结果
核心发现:视觉质量与物理保真正交。六个生成器 VBench 全部约 0.8 分,Principia 总分却只有 0.148–0.419:Wan2.2-14B 0.419 最高、Omni 0.409、Veo-3.1 0.379,小模型垫底(0.148–0.205),开源 Wan2.2-14B 反超闭源旗舰。动量对全员最难(Veo-3.1 为 0.000),摩擦与惯量最好(Omni 0.852/0.784),无模型全面占优。扩展不均:Cosmos 2B→14B 摩擦 +0.24,但恢复系数 −0.09、动量 −0.06;Wan 5B→14B 摩擦 +0.40、恢复 +0.35、重力 +0.32,但动量 −0.05,各有现象退化。算力不预测保真度:更耗时的 Cosmos-2.5-14B(74 分钟/视频 vs 66 分钟)总分反而低 0.22。VLM 侧最佳 Gemini-3-Flash 仅 0.661,其余 0.500–0.545 近随机;扩参无效:Gemini 系 −0.12(摩擦 −0.34),Qwen 系 −0.04。真实视频得分 0.881–1.000,证明低分确属模型。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| 视频生成器物理一致性(八现象综合) | Principia 总分 $S_\phi$ 均值(0–1 连续,越高越好) | 评测基准本身;被评模型最佳 Wan2.2-14B 得 0.419,最低 Cosmos-2.5-2B 仅 0.148 | 同一批模型 VBench 全部约 0.8;闭源旗舰 Veo-3.1 在 Principia 上仅 0.379 | 开源 Wan2.2-14B 反超 Veo-3.1 约 0.04;但所有模型距满分 1.0 均差 0.58 以上,暴露物理一致性普遍缺失 |
| 单现象最好成绩(生成器) | $S_\phi$(逐现象) | Omni 摩擦 0.852、转动惯量 0.784;Wan2.2-14B 摩擦 0.709、惯量 0.729 | 同一模型的其他现象:Omni 动量仅 0.054、恢复系数 0.277 | 最好现象已接近真实视频上限(真实录制 0.881–1.000),最差现象接近 0,失败高度现象依赖 |
| VLM 关系性物理违规检测 | 一致性分数 $A_\phi$(PASS/FAIL 判断与真值吻合比例) | 评测基准本身;被评模型最佳 Gemini-3-Flash 达 0.661,弹簧现象各模型 0.535–0.895 | Qwen-32B 0.500(近随机水平)、Gemini-3.1-Pro 0.545、Qwen-4B 0.541 | 最佳 VLM 仅比随机猜测高约 16 个百分点,且扩参(Gemini +Qwen 两个家族)不升反降 |
| 评分协议正确性校验(真实视频上限) | 真实录制视频的 Principia 分数(施加模拟相机运动前后) | 重力 0.934、恢复系数 0.977、单摆 0.901、惯量 0.936、摩擦 0.963、动量 1.000、弹簧 0.881、抛体 1.000 | 生成器最佳总分 0.419 | 真实物理在协议下接近满分且对 2%–10% 相机运动鲁棒(仅抛体对水平平移敏感,10% 时跌至 0.417),说明低分可归因于模型 |
| 家族内参数扩展效率 | 扩展前后总分与逐现象增量 Δ | Wan 5B→14B(2.8×)平均 +0.21;Cosmos 2B→14B(7×)平均仅 +0.05 | 两家族扩展前各自基线;两家族均至少一现象退化(Wan 动量 −0.05,Cosmos 恢复系数 −0.09) | 参数扩大 2.8–7 倍收益不均衡且有回退,物理保真无法靠规模单独解决 |
局限与改进
作者承认的局限:只覆盖宏观牛顿力学,不含流体、软体形变与热现象;生成视频中的幻觉物体、物体消失、严重形变等与物理推理无关的失败未自动分离,只在'其余可解释视频'上谈定律遵守;完整真实视频保留不发。我的补充观察:抛体与动量只有二值排序分、无部分得分,一次小视差即可翻转结果——Table 6 中 10% 水平平移使抛体从 1.000 跌至 0.417,这类项对总分方差贡献大;DCS 0.8 阈值把'方向错误'的视频直接记 0 分,把定性运动失败与物理推理失败混在一个分数里;各样本标准差普遍 ±0.15–0.40,529 场景 × 2 种子下 0.01–0.04 的模型间差距未必显著(如 Wan2.2-14B 0.419 与 Omni 0.409 之差);VLM 只测固定 PASS/FAIL 单轮提示,没有思维链、逐帧标注或工具辅助,可能低估其判别力;增强场景经 Nano Banana 2 改写,编辑伪影与物理信号的混淆未被单独报告。此外基准只评固定机位短片段,不涉及长时程漂移与交互式预测,作为'世界模型'测试的覆盖面仍有限。
独立分析的弱点
独立分析几个弱点并给改进方向。第一,评分粒度不对称:七现象有连续分,抛体与动量只有排序两档,改进方向是改用带部分得分的连续比值(如实测射程比的相对误差加置信区间),并对模型间差距做显著性检验。第二,反事实对照只用于 VLM,生成器没有'反物理'版本,无法区分模型是记住了表面统计还是理解了定律,改进方向是把 Isaac Sim 管线同样用于生成器的对比训练数据构造。第三,首帧条件化降低了任务难度:模型拿到精确摆放的初始状态、提示词还描述了期望运动,这与开放文本到视频场景的世界模拟仍有差距,改进方向是加入纯文本初始化与随机初始状态设定。第四,VLM 提示无空间计量辅助,人类判这类题也需逐帧比对,改进方向是给 VLM 提供轨迹叠加图或允许调用追踪工具后再测,以定位失败发生在感知还是推理环节。第五,样本标准差偏大而头部模型差距小,'开源超闭源'的结论需要更多种子支撑;各现象样本量 52–102 也不均衡。第六,编辑增强场景与原生场景的分数差异未报告,无法完全排除编辑伪影对分数的影响。
未来方向
作者提出的方向:若视频模型要当日世界模拟器,必须保持物理定律强加的结构约束而非仅模仿运动外观,这大概率需要新的训练信号或针对关系不变量的架构偏置——两个家族的扩展实验表明现有架构内靠规模解决不了。可延伸的具体方向包括:把 $S_\phi$ 作为可微奖励做强化学习微调,与 NewtonRewards 类思路衔接,在保持视觉质量的同时优化关系一致性;用 Principia-Synth 的物理正确/反物理视频对构造对比学习目标,训练物理判别头并反哺生成;把八现象推广到流体、软体、多体耦合与热现象,并纳入非固定机位、手持拍摄等真实条件;对 VLM 引入 agentic 评测(允许调用追踪、测距工具),检验工具增强能否把 0.66 提升到 0.9 以上;把关系不变量用作视频数据清洗与合成数据验收的自动化指标。工程上,基准逐视频内计算分数、对污染免疫,首帧可用编辑模型低成本更换背景光照,天然适合做持续排行榜与训练时的在线评测器,而非一次性测试集。
复现评估
复现评估:作者承诺发布首帧输入与场景提示词,项目页为 https://PrincipiaBench.github.io,但完整真实视频保留不发以维持基准完整性——第三方可复现生成侧跑分(用公开首帧+提示调 API 或跑开源权重),却无法从零重建数据集;Isaac Sim 合成管线有方法描述但未见明确代码开源说明。算力门槛高:最终评测生成 4,000+ 视频,四个开源权重模型约 2,600–2,800 A100 小时(其中 Wan2.2-14B 约 1,100 小时、Cosmos-2.5-14B 约 1,300 小时,折合单卡 46–54 天连续运行),Veo-3.1 与 Omni 需付费 API,VLM 评测部分成本较低。工具链依赖 SAM3 追踪、逐现象事件检测阈值与 DCS 过滤,论文给出了公式与阈值(DCS 0.8)但评测代码开源情况未明,SAM3 需要手工标注初始点带来人力成本。综合判断:复现 VLM 评测最容易(合成集+固定提示),复现生成侧跑分中等偏难(主要是算力),复现数据构建最难(器械加工、750+ 视频拍摄与人工质检)。
论文图表
(a) 单个滑块沿斜面下滑的生成视频在三个时间步与频闪合成下看起来完全合理;(b) 两个不同质量的滑块在相同斜面同时释放,却未同时到达,违反重力加速度与质量无关的不变量。这种违规只有通过相对比较才能发现。
整篇论文动机的缩影:单物体'合理'掩盖物理错误,成对关系才暴露违规,直接解释了为何必须做关系式测试。