← 返回 2026-10-16

OmniCompass:面向全模态视频定位与理解的整体式基准 OmniCompass: A Holistic Benchmark for Omni-Modal Video Grounding and Understanding

Xuyang Liu, Shihao Wang, Xinyu Wei, Minghan Li, Zeqing Wang, Zuhao Yang, Zichen Wen, Lei Zhang 📅 2026-10-13 👍 81 2026-11-11 18:30
基准评测 多模态大模型 时序定位 空间定位 视频理解 音视频理解

用配对目标指定、视听双轨道和时空定位统一评测50个大模型的视频理解能力

前置知识

时序定位(Temporal Grounding, TG)

给定视频和一条描述目标事件的查询,模型需要输出该事件发生的起止时间区间。评测常用指标有 R@0.5(预测区间与真值的 tIoU 超过 0.5 的样本比例)和 mtIoU(平均时间交并比),其中 tIoU 定义为预测区间与真实区间交集长度除以并集长度,是定位任务的核心度量。

TG 是 OmniCompass 三大任务之一,读懂结果表中 R.@0.5、mtIoU、CSTG 这些列的前提是理解这一任务范式。

空间定位(Spatial Grounding, SG)

给定时间段和目标描述,要求模型在该区间的起始和结束时刻各输出一个包围盒(bounding box)来定位目标。框的准确性用 IoU(交并比)衡量,汇总为 msIoU 和 AP@0.5。本文沿用 V-STaR 协议:时间区间是给定的,模型只做空间定位,不要求自己先找时间段,坐标归一化到 0-1000。

SG 是三个任务中最弱的一环(部分模型 msIoU 接近 0),理解其「给定区间、两端各一框」协议才能正确解读模型的失败模式。

全模态大模型(Omni-modal MLLM)

指能联合处理图像、视频、音频和文本的多模态大语言模型,与只吃视觉帧的视频 LLM 的关键区别是拥有原生音频编码器,能直接接收视频同步音轨。典型代表包括 Gemini 系列、Qwen-Omni 系列、video-SALMONN 等。OmniCompass-AV 轨道只允许这类模型参加,因为任务答案依赖音频证据。

本文 VL/AV 双轨道的分设计正建立在「能否接收原生音频」这一架构差异上,AV 轨道 32.8 分的专有-开源差距是全文最重要的发现之一。

跨指定一致性分数(Cross-Specification Consistency, CS)

本文提出的指标,联合衡量模型在配对 Text 与 Text+Image 两种设定下的正确性与一致性。以 TG 为例,$\mathrm{CS}_{TG}=\frac{1}{N_{TG}}\sum_{i=1}^{N_{TG}}\min\{g_i^{T}, g_i^{TI}, a_i\}$,其中 $g_i^{T}$、$g_i^{TI}$ 是两种设定下预测与真值的 tIoU,$a_i$ 是两次预测之间的 tIoU;SG 在起止边界框上取 $\min$;QA 则要求 $\hat{y}_i^{T}=\hat{y}_i^{TI}=y_i$。取 min 保证「两次都正确且互相吻合」才能得高分。

CS 及其平均值 CSAvg 是本文所有主表的汇总指标,不理解 min 的设计意图就无法理解「为什么 CS 系统性低于单设置分数」。

均匀抽帧与时间戳序列化

多模态模型处理视频的标准做法:从整段视频均匀采样固定数量的帧(本文为 64 或 32 帧)输入模型。时间戳序列化指在每帧前插入文本形式的时间标记(如「Timestamp: 48.0 seconds.」),沿用 TimeLens 的做法,帮助模型把采样帧与视频中的绝对时刻对齐,从而输出更准的时间区间。

这是本文消融实验的关键变量:加时间戳平均提升 CSAvg 4.9-6.5 分,其中 TG 最高提升 18.3 分,是极具工程价值的免费改进。

研究动机

现有视频理解基准在四个设计维度上各自为政,导致无法对全模态视频理解做系统性诊断。具体而言:其一,证据类型割裂——Video-MME、CG-Bench、LongVideoBench 等只考纯视觉证据,WorldSense、Video-MME-v2、Daily-Omni 等只考音视频联合证据,没有一个基准同时覆盖两种设定,无法区分「视觉感知弱」和「视听对齐弱」这两类完全不同的失败;其二,目标指定方式僵化——绝大多数基准只允许用文本描述目标(如「美国队 7 号球员何时首次得分?」),IV-Bench 只支持文本+参考图像,但没有基准在同一目标上同时评测两种指定方式,因此无法知道模型换一种指称方式后是否还能认出同一个目标;其三,任务覆盖碎片化——多数基准只做问答或只做定位,视听类基准几乎不覆盖时序/空间定位。后果是:一个模型在篮球视频上可能答对「得了几分」,却说不准「何时发生」、指不出「球员在球场哪里」,而现有基准无法把这三类失败拆开定位。

本文的目标是本文要构建一个整体式(holistic)的全模态视频定位与理解基准 OmniCompass,在四个维度上统一评测:目标指定(同一目标配对 Text 与 Text+Image 两种设定,共享同一视频、任务语义和真值);证据轨道(OmniCompass-VL 只用视觉证据,OmniCompass-AV 额外要求原生音频);任务覆盖(时序定位 TG 问「何时」、空间定位 SG 问「何地」、问答 QA 问「何事」,每个视频三题齐全);视频时长(30 秒至 88.4 分钟,覆盖短/中/长三档)。量化目标包括:820 个视频、2,460 个 VL 实例、240 视频的 AV 子集 720 实例,全部人工标注并多轮质检(约 1,800 人工小时);提出跨指定一致性分数 CS 使正确性与一致性可同时度量;并在 50 个 MLLM 上完成诊断性评测,回答「模型是真的认出了目标还是碰巧答对」。

与已有工作不同的是,本文最独特的切入点是「同一目标、两种说法」的配对评测思想。与 CG-Bench、V-STaR 等只给文本查询的基准不同,OmniCompass 让每道题同时以「美国队 7 号球员何时首次得分?」(Text)和「参考图中的球员何时首次得分?」(Text+Image)两种形式出现,从而把「目标识别」从「证据推理」中剥离出来做控制变量实验。第二个被忽视的点是 grounding 在音视频评测中的缺席:现有视听基准(WorldSense、Daily-Omni、OmniVideoBench)只有 QA,而本文证明 TG/SG 才是模型最痛的短板。第三个观察是输入协议本身被低估:正文与消融均显示,仅在每帧前注入时间戳这一免费改动就能平均提升 CSAvg 4.9-6.5 分。CS 指标的 min 设计则堵住了「一致性虚高」的漏洞——仅两次预测互相吻合而都错,或都对但定位不重叠,都拿不到分。

核心方法

把 OmniCompass 想象成一场「三条赛道、两种问法」的多科目考试:每个考生(模型)对同一道题要用文字指称和图片指称各答一次,考试科目是何时(TG)、何地(SG)、何事(QA),考卷分纯视觉卷(VL)和视听卷(AV)。技术路线分三阶段。Stage 1 视频收集与筛选:从 9 个公开数据集汇集 8,489 个候选视频,用 Qwen3-VL-8B-Instruct 对每个视频做结构化剖析(实体、动作、属性、场景四类引用线索),过滤掉短于 30 秒或缺任一类线索的视频后剩 6,946 个,按启发式分数 $S=0.35R+0.25G+0.25T+0.15E$(引用必要性、定位适宜性、时空效用、证据多样性)排序并施加域/时长/来源约束,人工复核保留 580 个;再加 240 个自采的电影、电视剧、综艺、新闻视频,共 820 个,其中 240 个共享视频构成 AV 轨道。Stage 2 任务标注:4 名职业标注员经 2 天培训和 60 个视频试标(180 个实例)校准后,为每个视频独立构建配对 Text/Text+Image 的 TG、SG、QA 各一题。Stage 3 质量核验:标注员互相交叉检查,首席专家终审修订,全流程约 1,784 人工小时。

核心创新是「配对目标指定 + 跨指定一致性分数 CS」的组合。以往所有基准都把「模型是否理解问题所指的目标」和「模型是否找到证据」混在单一文本查询里,答对可能只是文本匹配的侥幸;OmniCompass 用配对设定做控制变量:同一视频、同一目标、同一真值,只改变指定方式——Text 设定写「穿 33 号球衣的美国队员何时完成扣篮?」,Text+Image 设定写「参考图中的球员何时完成扣篮?」并附一张目标裁剪图(该图不泄露答案事件)。CS 定义为:$\mathrm{CS}_{TG}=\frac{1}{N_{TG}}\sum_i \min\{g_i^{T}, g_i^{TI}, a_i\}$,其中 $g^{T}$、$g^{TI}$ 是两种设定下预测与真值的 tIoU,$a_i$ 是两次预测间的 tIoU;SG 对起止边界框的 $\min\{g^{T},g^{TI},a\}$ 求均值;QA 要求 $\hat{y}^{T}=\hat{y}^{TI}=y$。min 结构使分数同时被「正确性」和「一致性」的下界约束:两种设定下给出不同错误答案、或都答对但定位框不重叠,都拿不到分,从机制上防止一致性指标被投机策略刷高。

方法步骤详情

构建流程的输入输出如下。第一步候选剖析:输入 8,489 个公开候选视频,Qwen3-VL-8B-Instruct 输出含实体、动作、属性、场景计数的 JSON 描述;过滤后剩 6,946 个,打分排序加人工复核输出 580 个高质量视频。第二步试标校准:2 天指南培训后,先对 30 个 VL 和 30 个 AV 视频试标(每视频 TG/SG/QA 各一题、双设定,共 180 实例),首席专家据此修订指南。第三步正式标注:4 名标注员遵循四原则独立构建剩余实例——同一目标配对(双设定共享视频、目标、语义、真值)、引用多样不泄漏(视频内裁剪优先取目标区间之外的画面,或用语义匹配的外部图片)、TG 区间紧贴完整事件且 SG 在区间两端框住同一目标、QA 采用 1 个正确答案加 4 个合理干扰项的五选一并附线索区间。第四步交叉核验:标注员互查,VL 820 个中 354 个被打回修订,AV 240 个中 89 个进入修复(含 24 个 TG、70 个 SG、11 个 QA 标注修正),再由首席专家终审。第五步评测协议:均匀采样 64 帧(百亿参数以下开源模型 32 帧,GPT 系 49 帧),每帧前注入秒级时间戳,TG 输出 JSON 起止时间,SG 输出 0-1000 归一化坐标的双框,QA 输出五选一字母,AV 轨道额外拼接原生音轨。

技术新颖性

与已有基准相比,本文的新颖性有四点。第一,配对指定设计是全新的:CG-Bench、Video-MME 等只有文本查询,IV-Bench 只有文本+图像,从没有工作在同一目标上同时跑两种设定并对比,这使「跨指称一致性」第一次成为可量化的评测维度。第二,CS 指标在度量设计上区别于简单的一致率:通过对 $\min\{g^{T}, g^{TI}, a\}$ 取最小值,把正确性和一致性耦合为一个数,而 V-STaR 等前作只分别报告两种设定的准确率。第三,任务统一的范围最大:同时覆盖 TG、SG、QA 和短中长时长(30 秒至 88.4 分钟)的基准此前只有 V-STaR,但它没有配对设定也没有音频轨道;视听基准则普遍缺失 grounding。第四,标注工程规格罕见地高:约 1,784 人工小时、4 名职业标注员加 1 名首席专家、三阶段质检并公开修复记录(Tables D1-D3),而多数竞品为自动或半自动标注。相对地,方法本身不含新模型或新算法,属于纯粹的评测学贡献。

Data construction pipeline
Figure 3: Data construction pipeline
Dataset statistics of OmniCompass
Figure 4: Dataset statistics of OmniCompass
Seven high-level domains of videos in OmniCompass
Figure C1: Seven high-level domains of videos in OmniCompass
Structured video profiling prompt used with Qwen3-VL-8B-Instruct
Figure C2: Structured video profiling prompt used with Qwen3-VL-8B-Instruct

实验结果

共评测 50 个模型(VL 轨道 36 个:12 专有 + 24 开源;AV 轨道 17 个:7 专有 + 10 开源)。发现一:专有模型全面领先且 AV 差距悬殊。VL 轨道 Gemini-3.8-Flash 以 CSAvg 42.8% 居首,最佳开源 Kimi-K3 为 39.6%,差 3.2 分;AV 轨道 Gemini-3.8-Flash 达 57.4%,最佳开源 MiMo-V2.5 仅 24.6%,差距高达 32.8 分。发现二:定位能力严重滞后于问答。36 个模型中 29 个 CSQA 超 50%(峰值 69.1%),但最佳 CSTG 仅 27.1%、最佳 CSSG 仅 34.9%;视觉计数(Visual Counting)在图示 8 个模型中全部垫底(26.4%-48.1%)。发现三:参考图并非普遍有益。Text+Image 只提升 36 个模型中 11 个的单设置均分(专有 8/12,开源仅 3/24),说明视觉指称可能反而丢失了文本细节。发现四:跨指称一致性差。CS 平均比对应的单设置较低分低 4.3(TG)、4.6(SG)、6.4(QA)分;Kimi-K3 两种设定 QA 准确率几乎相同(73.0%/72.9%)但 CSQA 仅 67.6%,其 808 对中 175 对两次都错、44+43 对仅一边对。发现五:时间戳是免费的午餐——5 组模型-轨道配置的 CSAvg 全部提升(VL 平均 +6.5,AV 平均 +4.9),TG 最高 +18.3。发现六:音频对 QA 一致有效——Vision+Audio 相比 Vision 使 CSQA 平均提升 22.9 分(+18.6 至 +28.1),但对 SG 增益有限(-0.4 至 +1.8),TG 增益因模型而异(Gemini +29.4,MiMo-V2.5 反降 1.5)。发现七:长视频与细粒度目标更难——Seed-2.1-Pro 的 TG 从短视频 33.4% 跌至长视频 15.1%;Gemini 的 VL TG 随目标时长占比从 7.9% 升至 43.1%。

Comparison of existing video understanding benchmarks
Table 1: Comparison of existing video understanding benchmarks
Results on OmniCompass-VL
Table 2: Results on OmniCompass-VL
Results on the OmniCompass-AV
Table 3: Results on the OmniCompass-AV
Overall model performance on OmniCompass-VL
Figure 1: Overall model performance on OmniCompass-VL
Fine-grained QA performance across tracks
Figure 5: Fine-grained QA performance across tracks
Impact of frame-level timestamps
Figure 6: Impact of frame-level timestamps
Impact of input modalities on OmniCompass-AV
Figure 7: Impact of input modalities on OmniCompass-AV
Performance across video durations in OmniCompass-VL
Figure A1: Performance across video durations in OmniCompass-VL
Grounding across target granularity
Figure A2: Grounding across target granularity
Performance across video domains in OmniCompass-VL
Figure A3: Performance across video domains in OmniCompass-VL
Impact of frame scaling
Figure B1: Impact of frame scaling
Effects of reference specification in OmniCompass-VL
Figure B2: Effects of reference specification in OmniCompass-VL
Consistency under paired reference specifications
Figure B3: Consistency under paired reference specifications
Qualitative Analysis on OmniCompass-VL and OmniCompass-AV
Figure B4: Qualitative Analysis on OmniCompass-VL and OmniCompass-AV
查看结构化数据
任务指标本文基线提升
全模态视频理解总评(OmniCompass-VL) CSAvg Gemini-3.8-Flash 42.8%(专有最佳) Kimi-K3 39.6%(开源最佳) +3.2 分(专有-开源差距)
音视频联合理解总评(OmniCompass-AV) CSAvg Gemini-3.8-Flash 57.4%(专有最佳) MiMo-V2.5 24.6%(开源最佳) +32.8 分(专有-开源差距)
时序定位 TG(VL 轨道) CSTG 最佳 27.1%(Gemini-3.8-Flash) CSQA 最佳 69.1%(同模型) 定位比问答低 42 分,暴露核心短板
时序定位 TG(AV 轨道) CSTG Gemini-3.8-Flash 40.6% 全部 10 个开源模型 ≤3.5% 音视频时序定位是开源模型崩溃点
问答 QA(AV 轨道) CSQA Qwen3.8-Omni-Flash 73.2% 同模型 CSTG 仅 21.8% QA 强、TG 弱的失衡在音频轨道同样存在
输入协议消融 CSAvg(有无帧级时间戳) 加时间戳后 5 组配置全部提升 无时间戳基线 VL 平均 +6.5 分、AV 平均 +4.9 分,TG 最高 +18.3 分
模态消融 CSQA(Vision+Audio vs Vision) 加音频后 4 个模型全部提升 纯视觉输入 平均 +22.9 分(+18.6 至 +28.1)

局限与改进

作者承认的局限:视频时长、领域与目标粒度高度相关,时长分组分析无法把「视频长」隔离为唯一原因;目标粒度四分位组的边界和样本量在轨道间不一致;Text+Image 设定同时改变了文字描述和图像可用性,其效应不是纯粹的「加图」效应;AV 的 QA 类型标签只反映设计意图,并未逐题验证去音后必错;自采视频仅限学术评估使用,再分发受版权约束。我自己的观察:每视频每任务仅 1 道题,2,460 个实例对 50 个模型而言统计功效偏低,排名前列的小幅差距(如 42.8 vs 42.0)未必显著;SG 协议给定时间区间,回避了「先找时间再找位置」的完整推理链,使 SG 失败不能等同于真实场景中的定位失败;五选一有 20% 随机基线且排除法可进一步抬分;88.4 分钟的视频只采 64 帧(约每 83 秒一帧),长视频 TG 的低分可能部分源于采样稀疏而非时序推理缺陷;模型版本均为 2026 年的快速迭代 API,榜单数字的时效性有限。

独立分析的弱点

弱点一:实例密度太低。每个 820 视频上每任务只有 1 题,且引用类型严重不均衡——实体引用占 79.7%(1,960/2,460),场景引用仅 5.2%,附录 B2 中场景条件 TG 只剩 8 对,任何分类型结论都缺乏证据。改进方向:扩充到每视频多目标多事件,或对稀缺引用类型做定向补采。弱点二:CS 对预测方差敏感。TG/SG 的 min 结构会被两次采样的随机波动压低,论文未报告多次采样的方差或温度设置。改进方向:每对采样 3-5 次取期望 CS,并报告置信区间。弱点三:AV 轨道开源模型全线崩溃(CSTG ≤3.5%)可能混入格式问题——Qwen2.5-Omni-7B 在 Text 设定下 TG R@0.5 直接为 0,更像指令跟随失败而非感知失败。改进方向:为小模型提供格式微调或 few-shot 基线后再下结论。弱点四:SG 只评区间两端两个框,无法区分「定位不稳」与「跟踪漂移」,Gemini 在示例中最高也只有 0.181 的 IoU,说明协议本身可能低估了模型能力或高估了难度。改进方向:增加区间内密集帧评测并区分指标。弱点五:候选筛选依赖 Qwen3-VL-8B 的剖析输出,模型偏差会传导进数据分布(如偏向模型易描述的视频)。改进方向:用多个剖析模型交叉或人工抽样校验候选池。

未来方向

作者在结论中指出两个方向:更强的跨模态对齐(尤其音视频事件绑定,Event Understanding 上专有-开源差 38.9 分)和更可靠的音频感知定位。基于本文成果可延伸的方向包括:其一,把 CS 一致性作为训练信号——既然跨指称不一致普遍存在,可设计一致性正则或 RLHF 奖励,迫使模型对同一目标的文字/图片指称给出相同定位与答案;其二,评测 agentic 视频推理——近年模型开始回看片段、按需取音频,OmniCompass 的长视频与 AV 轨道天然适合检验工具调用是否真带来证据增益;其三,把「时间戳注入」的发现推广为系统性研究元数据(时间、帧号、分辨率)对 grounding 的影响,并训练原生时间感知的视频编码器;其四,把 SG 从两点定框扩展为密集跟踪与轨迹评测;其五,扩大 AV 子集并引入更细的语音-视觉对齐任务(如说话人-嘴唇匹配、画外音归属),目前 240 个视频 720 个实例的规模尚不足以支撑细粒度诊断。

复现评估

复现成本分层明显。评测侧:论文首页给出 Homepage、GitHub、Hugging Face 链接,标注和评测协议完全公开——附录 E 提供全部任务在双设定下的完整 prompt 与 JSON 输出格式,附录 C 公开候选打分公式与 9 个来源数据集清单(MultiSports、LiveSports-3K、UCF-Crime、CG-Bench 等,均注明 license),推理为主、无需训练,主要成本是 API 调用费(50 模型 × 约 3,180 实例对 × 2 设定 × 64 帧)与开源模型的显卡时间,属于容易-中等难度。数据侧:580 个公开来源视频理论上可重组,但 240 个自采影视/综艺/新闻视频版权受限,很可能只发布标注和获取指引而非视频本体,完整基准能否直接下载需跟踪官方仓库。标注侧:约 1,784 人工小时(4 名职业标注员 + 1 名首席专家、三阶段质检)的流程文档详尽(Tables D1-D3 含修复记录),但对普通团队而言复刻这套标注流程的门槛很高。总体建议:直接用其发布的基准跑评测极易复现;想复制「配对标注 + CS」的方法论到新领域则需要可观的标注预算。

相似论文推荐