无需放大 v2:从看见细节到连接证据的泛化多模态感知 Zooming without Zooming v2: From Seeing Details to Connecting Evidence for Generalizable Multimodal Perception
用单图多区域合成数据加 RLVR 训练"连接证据"能力,泛化提升空间感知与长上下文
前置知识
RLVR 与 GRPO
RLVR(可验证奖励的强化学习)指模型输出的答案能用确定性规则自动判分(如多选题的选项字母是否正确),无需人工标注或训练奖励模型。GRPO(Group Relative Policy Optimization)是 DeepSeekMath 提出的策略优化算法:对每个提示采样一组 $G$ 个回答,用组内相对奖励作为优势估计来更新策略,配合裁剪比率约束更新幅度,并可去掉 KL 惩罚让策略自由偏离基座。本文用 GRPO 训练,$G=8$、温度 0.7、解耦裁剪 $\epsilon_{low}=0.2$、$\epsilon_{high}=0.3$、$\beta_{KL}=0$。
ZwZ2 的全部训练只用 RLVR、完全不用 SFT,论文的核心实验设计、奖励函数和附录 D 的训练配方都建立在这套机制上;不熟悉 GRPO 就无法理解训练设置与消融实验的意义。
特权视图(privileged view)
指数据构建阶段可见、训练阶段不可见的辅助信息。本文把每个区域组的原生分辨率裁剪(带 8% 上下文边距)按相对位置保序地拼到一张白色画布上,并用 7 色调色板给各区域描边,得到"特权证据布局",供出题模型看清小细节、生成高质量问题;但训练时策略模型只能看到带彩色轮廓的全图。标题中的 "zooming without zooming" 正是指放大只发生在造数据阶段。
特权视图是 EVIDENCECONNECT 的核心机制之一:它保证了合成问题的事实基础,又避免了给训练模型留捷径。消融实验(Table 3)显示它平均带来 +1.27 分,理解它才能理解数据质量与"训练时不作弊"的设计权衡。
跨模型答案锚定(cross-model answer anchoring)
为合成问题确定可靠参考答案的机制:来自两个不同家族的 VLM(Qwen3.5-397B-A17B 与 Kimi-K2.6)在特权视图上各自独立采样作答(每家族最多 4 次),彼此看不见对方答案,也看不到出题模型给出的答案和区域描述;只有当每个家族内部的多数投票都指向同一个答案时才保留该问题,这个共识答案成为参考答案 $a^\star$。若答案表述不一致,再用文本判分模型按语义等价性重新聚类。
这是防止合成数据标签错误的第一道质检,直接决定训练信号是否干净。它也是估算流水线成本的关键——Table 4 显示锚定是调用次数最多的环节,每个候选最多 8 次大模型调用。
区域消融测试(drop-one testing)
验证"答案是否真的依赖于所选证据"的第二道质检:把某个区域在特权布局中用灰块加红十字遮挡得到 $V_G^{-i}=M_i(V_G)$,让验证模型再答一次;若它返回"信息不足"或给出不同答案,说明该区域必要;若多数查询仍恢复 $a^\star$,则标记为"经验冗余"。由于相邻裁剪的上下文边距可能泄露部分遮挡内容和采样有随机性,一个候选只有当冗余区域超过 1 个才被拒绝,以兼顾质量与合成效率。
这是论文区别于一般合成数据工作的关键创新:不仅检查答案对不对,还检查问题是否结构性地需要每个区域。消融显示该步骤带来 +1.63 分平均提升,是理解"如何自动剔除装饰性区域和捷径题"的核心。
研究动机
空间感知和多模态长上下文理解是多模态智能的两大支柱:前者支撑具身 AI 的导航、操纵与视角相关决策(如 Gemini Robotics、RT-2 依赖物体位置和空间关系),后者支撑多模态智能体跨图像、跨对话轮次检索证据、解析指代并整合历史观察。但为这些任务构建高质量训练数据极其困难。空间感知方面,现有工作(如 SpatialVLM)主要靠扩大区域级关系数据规模,可靠标签要求对多个对象做精确定位与关系绑定,人工标注昂贵,自动生成器则容易幻觉出不存在的空间关系。长上下文方面,现有多图多轮指令数据(MANTIS、MMDU 等)集中在少数格式和任务类型上,因为"在长序列上仍然可回答"的多样化问题很难自动构造。具身空间推理和多模态智能体数据更难,因为还涉及物理或交互环境和多步轨迹。受控研究(如 MIMIC)也证实 VLM 在聚合分散视觉信息上存在持续缺陷:例如跨五张图找共享类别时用"多数重叠"替代"全体满足",或在结构化计数中漏数实例。结果是这些能力都缺乏可扩展、高质量的干净可验证监督。
本文的目标是本文的目标不是为某个下游基准定制数据,而是识别这些任务背后共享的原子能力——"连接证据"(connecting evidence),即识别任务相关的视觉事实、把每个事实绑定到正确的实体、恢复它们之间的关系、并把证据组合成答案——然后构造针对这一能力的训练数据。具体做法是提出 EVIDENCECONNECT:一个全自动、易于实现的数据合成框架,从单张图像内一组相关区域(3 到 7 个)合成需要比较、聚合或链式推理的组合问题;用跨模型答案锚定保证参考答案可靠,用 drop-one 区域消融保证答案确实依赖所选证据;把通过双重质检的问题转成四选一多选题,仅用 RLVR(GRPO,无 SFT)训练 Qwen3.5-4B/9B 和 Qwen3.6-27B,得到 ZwZ2 系列模型;最后在覆盖六个领域的 25 个基准上验证:只训练"单图内连接证据",能否泛化到细粒度感知、空间感知、具身空间推理、长上下文理解、多模态智能体乃至通用视觉推理。
与已有工作不同的是,本文的独特切入是把训练目标从"任务"下移到"原子能力",并选择单图多区域这一便于审计的代理形态。与已有合成数据工作的本质差异有三点。其一,ZwZ(Zooming without Zooming 一代)每个问题只锚定单个区域,无法覆盖"聚合"与"闭集比较"(异常检测、极值、配对需要把所有候选一起看完才能作答);CRIT、MMHops、HopChain 构造的是顺序多跳链,且 HopChain 依赖人工验证答案;F2RVLM 面向对话片段检索。EVIDENCECONNECT 以"连贯的区域组"为问题单元,每个区域有明确角色(待聚合的值、闭集候选成员、后续步骤依赖的线索),因此除依赖链外还覆盖聚合和闭集比较。其二,答案可靠性与证据依赖性被拆开、分别自动检查:跨家族多数投票锚定答案,drop-one 消融确认每个区域都改变答案,全程无人工标注。其三,特权放大视图只用于造数据,策略训练时只见带彩色轮廓的全图——"放大"只发生在数据构建阶段,模型必须自己完成感知与连接。这一设定还使证据位置可控、可审计,便于研究监督能否迁移到真正的长上下文任务。
核心方法
直觉上,空间感知和长上下文任务的失败往往不是"看不到细节",而是看到细节后连不起来:认出了文字却绑错位置(把 SEGATORI 归给喷泉而不是提问所指的拱门)、用"多数"替代"全体"(跨图找共享类别时忽略个别缺失)、枚举不完整(数药片时分区漏数)。与其直接制造昂贵的空间标注或长序列对话数据,不如训练这个更底层的"定位证据→绑定实体→恢复关系→组合答案"原子过程。技术路线分三步。第一步数据合成:从 SA-1B 高分辨率复杂图像出发,用强 VLM 提议并分组 3-7 个相关区域,在特权放大布局上生成跨区域组合问题(聚合、闭集比较、依赖链三种形式),附推理证书;用两个模型家族的多数一致锚定参考答案,用 drop-one 遮挡测试确认每个区域必要。第二步数据定型:转成四选项多选题,策略视图为带彩色轮廓的全图(聚合类问题尝试去掉标记的自然指称改写并双重审计),再用轻量模型做难度过滤。第三步训练:仅用 20.4K 样本、GRPO、无 SFT,在 Qwen3.5-4B/9B 与 Qwen3.6-27B 上以同一配置训练,得到 ZwZ2-4B/9B/27B。
核心创新是把"连接证据"抽象为可迁移的训练目标,并把问题结构化为"单张图像内的一个连贯区域组"。与已有方法的本质区别在于:ZwZ 的每道题只依赖单区域,训练信号无法表达"把所有候选一起看完才能作答"的闭集语义;CRIT/MMHops 的多跳是顺序链式结构,缺少聚合与闭集比较这两种对长上下文理解至关重要的形式;HopChain 需要人工验证。EVIDENCECONNECT 给每个区域分配明确角色,并用"必要性模式"(answer_sensitive、set_complete/pair_complete、chain_dependency)精确规定"移除某区域后答案应如何变化",使答案只有在所有角色联合之下才唯一确定。第二个关键设计是特权视图与策略视图的分离:出题与验证用原生分辨率裁剪拼成的放大画布,训练时模型只见彩色轮廓标记区域位置的全图——轮廓解决指称歧义,但不泄露答案内容,模型仍须自己感知细节并连接证据;对答案不依赖轮廓的聚合题,还会自动尝试去标记改写并通过两家族四重审计。这样,"放大"成为造数据阶段的特权,训练与推理阶段都无需任何额外工具调用。
方法步骤详情
流水线共八步。(1)图像筛选:仅保留 SA-1B 中长边至少 1280px、平均通道熵不低于 6.5 bit、Canny 边缘密度不低于 0.04、亮度标准差不小于 60 的高分辨率复杂图像。(2)区域发现:Qwen3.5-397B-A17B 判断图像能否支持多区域问题,并提议最多 18 个区域(边界框加短描述),过滤面积占比小于 0.04% 或大于 18% 的框以及与已保留框 IoU 不小于 0.65 的重复框,剩余区域少于 4 个则跳过。(3)任务条件分组:纯文本调用基于图像描述与区域描述提议最多 6 组、每组 3-7 个区域,标注 22 个任务族之一并映射到 4 种必要性模式,丢弃无效或重复组。(4)特权证据布局:每区域按原生分辨率裁剪(四周 8% 边距),用保序重映射排到白色画布上,长边超过 4096px 才下采样;7 色调色板上色(组上限 7)。(5)问题实现:生成器接收布局、区域元数据和从 104 个推理蓝图模板库采出的 4 个模板,每组最多出 8 个候选,每个候选声明问题类型、必要性模式、每个区域的贡献、移除后预期答案以及推理证书;确定性规则拒绝证书含未用区域、主观措辞、轮廓色泄漏答案、算术不一致等候选;每组保留最多 4 个、每图最多 8 个。(6)跨模型答案锚定:Qwen3.5-397B-A17B 与 Kimi-K2.6 在特权视图上各采样作答(最多 4+4 次),不看区域描述与出题答案;每家族至少 3 票一致且两家族指向同一答案才保留,该答案记为 $a^\star$。(7)自适应 drop-one 测试:每区域被灰块加红十字替换后验证器作答 1-3 次,多数恢复 $a^\star$ 才算经验冗余;冗余区域不少于 2 个才拒题。(8)定型:默认策略视图为带彩色轮廓的全图;聚合类问题(计数、属性计数、数字求和)尝试无标记改写,需两家族共 4 次审计全部确认指称唯一、任务保持、答案不变才替换;随后转四选项(3 个干扰项与 $a^\star$ 同格式),难度过滤由 Qwen3.6-35B-A3B 每题作答 4 次,全对或不可解析的丢弃,每图最多保留 4 题。最终 20.4K 样本中 65.74% 为三区域、24.34% 为四区域,hard 加 very hard 占 44.21%。训练配置:GRPO、2 个 epoch、batch 128、学习率 $10^{-6}$、每提示 $G=8$ 个 rollout、温度 0.7、最大响应 32K token、禁用思考模式、解耦裁剪 $\epsilon_{low}=0.2$ 与 $\epsilon_{high}=0.3$、无 KL 惩罚($\beta_{KL}=0$),奖励只检查预测选项字母。
技术新颖性
技术新颖性体现在四个层面。(1)能力抽象层面:把空间感知、长上下文理解与细粒度感知统一到"连接证据"这一原子能力,并论证针对该能力的数据比针对任务本身的数据远容易合成与验证——这是问题设定层面的贡献,与 Euclid's Gift 用几何代理任务训练空间技能的思路同族但更一般:本文代理任务来自自然图像且面向跨任务共享的连接步骤而非纯空间技能。(2)问题结构层面:以连贯区域组为单元,首次把"必要性模式"作为可检验的问题属性引入合成数据,使"每个区域都必要"从希望变成可自动测试的命题,并用推理证书(reasoning certificate)这种结构化中间产物支撑规则检查(每步只能读先前步骤、每个区域必须在通往输出步骤的路径上)。(3)质检机制层面:答案可靠性与证据依赖性被分离验证;drop-one 允许单个冗余区域以容忍裁剪边距重叠与采样噪声,只拒绝多数冗余的题,兼顾质量与合成效率——消融证实该设计值 +1.63 分。(4)视图分离层面:特权视图仅用于构建,策略视图保留彩色轮廓作指称锚点但不泄露答案,并对聚合题自动做去标记改写加双重审计。整条流水线无需人工标注,Table 4 逐项列出每次调用的模型、视觉输入、次数与温度,工程上完全可审计。
实验结果
核心结果分五组。(1)主实验(Table 1,25 个基准):ZwZ2 在三个规模的所有 25 个基准上都超过基座模型,总体平均 4B 从 49.41 升至 54.79(+5.39)、9B 从 51.63 升至 56.59(+4.96)、27B 从 55.52 升至 60.51(+4.99)。细粒度与空间感知域平均提升 5.2-6.3 分,单基准增益如 MIMIC 达 +11.1(4B 55.01→66.10)、CountQA +10.8(36.91→47.19);具身空间推理域提升 5.5-8.1 分,ERQA 在 27B 提升 10.5 分(51.25→61.75);ViewSpatial 4B 从 37.43 升至 45.26(+7.83)。虽然只用单图训练,长上下文域 4B 平均 +5.6,MileBench 4B 从 60.08 升至 70.08(+10.00);智能体基准 AgentVista 提升 4.8-6.2 分,GUI grounding(ScreenSpot-Pro、UI-Vision)一致提升。(2)与前沿模型对比:ZwZ2-27B 总体 60.51% 高于 GPT-5.6-Luna 的 54.02%、GLM-5.3-Flash 的 57.24%、DeepSeek-V4.1-Flash 的 55.47%,并领跑细粒度感知域(67.57 对 59.32/61.84/54.67)。(3)数据对比(Table 2,同一 4B 基座、同一 GRPO 配方,11 基准平均):EVIDENCECONNECT(20.4K)得 53.86,优于 ZwZ-73K 的 49.86、CRIT-30K 的 46.61、F2RVLM-37K 的 46.42、TVG-19.4K 的 45.48、MMHops-31K 的 42.73;后四个数据集平均分甚至低于基座的 47.16,而 Ours 在全部 11 个基准上都超过基座;与最强基线 ZwZ 相比只用了约 1/3.6 的数据量,在 10/11 个基准上反超(仅 MileBench 落后 0.13 分),MindCube-Tiny 上 ZwZ 使基座下降 13.8 分而 Ours 提升 5.4 分。(4)消融(Table 3,各 7K 样本):drop-one 验证使平均分 51.03→52.65(+1.63,11 个基准中 10 个提升,最大 MindCube-Tiny +5.15、O3-Bench +4.64);特权视图使 51.38→52.65(+1.27,9/11 提升)。(5)泛化与分析:换基座到 Qwen3-VL-2B/4B 仍分别 +4.81(36.82→41.63)与 +2.91(41.70→44.61);数据规模从 7K 增到 20.4K 再 +1.21 分;MemLens 上增益持续到 256K 上下文但在最长处收窄,128K 的 MMLongBench 视觉核心上 4B/9B 仅与基座持平;TreeBench 405 例的注意力分析显示 ZwZ2 高注意力 token 与真值证据框的 top-k IoU 在 4B 的 7/8 个全注意力层、9B 的 6/8 层高于基座(最大层差 +0.53 个百分点),说明训练确实让模型更关注任务相关证据。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| 总体平均(25 个基准,六个领域) | 准确率 (%) | ZwZ2-4B 54.79;ZwZ2-9B 56.59;ZwZ2-27B 60.51 | Qwen3.5-4B 49.41;Qwen3.5-9B 51.63;Qwen3.6-27B 55.52;前沿模型 GPT-5.6-Luna 54.02 / GLM-5.3-Flash 57.24 / DeepSeek-V4.1-Flash 55.47 | 三个规模分别 +5.39 / +4.96 / +4.99,且所有 25 个基准全部提升;27B 超过三个前沿模型 |
| 细粒度感知(域平均,9 个基准) | 准确率 (%) | 4B 65.08;27B 67.57 | Qwen3.5-4B 59.23;GPT-5.6-Luna 59.32 | 4B +5.85;单基准最大增益 MIMIC +11.1、CountQA +10.8 |
| 空间感知(域平均,6 个基准) | 准确率 (%) | 4B 51.07;27B 55.98 | Qwen3.5-4B 44.73;Qwen3.6-27B 49.72 | 4B +6.34、27B +6.26 |
| 多模态长上下文理解(MileBench) | 准确率 (%) | 4B 70.08 | Qwen3.5-4B 60.08 | +10.00(训练仅用单张图像,增益迁移到多图任务) |
| 具身空间推理(ERQA) | 准确率 (%) | 27B 61.75 | Qwen3.6-27B 51.25 | +10.50;域平均三个规模提升 5.5-8.1 分 |
| 视角空间推理(ViewSpatial-Bench) | 准确率 (%) | 4B 45.26 | Qwen3.5-4B 37.43 | +7.83 |
| 与现有合成数据对比(11 基准平均,同一 4B 基座) | 准确率 (%) | EVIDENCECONNECT 53.86(20.4K 样本,11/11 基准超基座) | 最强基线 ZwZ-73K 49.86(数据量 3.6 倍);CRIT-30K 46.61、F2RVLM-37K 46.42、TVG-19.4K 45.48、MMHops-31K 42.73 均低于基座 47.16 | 比 ZwZ +4.00 分且数据量仅 1/3.6,10/11 基准反超 |
| 多模态智能体(AgentVista) | 准确率 (%) | 4B 17.22;27B 18.18 | Qwen3.5-4B 12.44;Qwen3.6-27B 12.92 | +4.78 至 +5.26(三个规模 +4.8~6.2) |
局限与改进
作者承认两点局限:单图监督虽能迁移到多图与智能体任务,但并未直接建模时序或跨帧依赖;RLVR 只验证到最大 27B 的模型,更大规模或预训练阶段是否同样受益尚不清楚。我补充几点观察:(1)超长上下文增益收窄——128K 的 MMLongBench 视觉核心上 4B/9B 仅与基座持平,说明单图短上下文训练强化的是证据连接而非长输入检索,后者在极长上下文成为主要瓶颈;(2)增益不均匀——消融中 ERQA 在有 drop-one 验证时反而下降 4.00 分,特权视图消融中 Chartography 和 ERQA 用原图合成反而更好(+4.00 与 +4.75 分),说明代理任务与某些任务存在分布错配;(3)流水线上限受出题与验证模型(Qwen3.5-397B-A17B、Kimi-K2.6)的感知能力约束,占 25.14% 的 very hard 题目(筛选模型 4 次全错)其正确性完全依赖锚定模型的判断;(4)所有评估都在 low/non-thinking 模式下进行,思考模式下的表现未报告;(5)与前沿模型的对比中,三个商用模型的输入分辨率受平台限制,对比不完全公平;(6)四选一多选题加选项字母奖励是较粗的信号,可能存在排除法得分的捷径空间。
独立分析的弱点
独立分析的弱点与改进方向:(1)彩色轮廓改变了训练分布——训练时图像几乎总带彩色框,真实部署没有轮廓;虽然聚合题做了去标记改写,但只覆盖答案不依赖轮廓的题型(计数、属性计数、数字求和),选择与配对题仍保留标记。改进方向:扩大无标记改写的题型覆盖,或训练时对轮廓随机化/概率性省略以弥合分布差。(2)四选一字母奖励信号较粗:模型可能通过选项格式与排除法部分得分而非真正感知。改进方向:混合开放式短答案奖励(规范化字符串匹配),或对选择题额外要求输出证据框坐标并用 IoU 给部分奖励。(3)质检链条依赖单一强模型的自我一致性:出题、锚定家族之一、drop-one 验证器、无标记审计都用 Qwen3.5-397B-A17B,存在共同的系统性偏差(例如同样误读某处文字就会一致通过)。改进方向:审计环节引入第三个异构家族,或用 grounding 坐标交叉验证。(4)数据源仅 SA-1B 自然图像,缺少文档、图表、UI 截图分布——Chartography 仅从 5 分升到 14 分仍远低于 GPT 的 17 分。改进方向:按领域扩展图像源(DocLayNet 类文档、网页截图、图表渲染)复用同一流水线。(5)对需要真正跨图/3D 空间推理的任务帮助有限:MMSI-Bench 27B 仅从 33.50 升至 37.10,绝对水平仍低。改进方向:把证据组从单图扩展到多图或视频帧。(6)每张图约需数十次大模型调用(Table 4),且主力是 397B 级模型,合成成本高。改进方向:研究小模型出题加强模型验证的分工组合。
未来方向
作者明确提出两个方向:一是把证据合成扩展到视频帧,直接建模跨帧的时序依赖,弥补单图代理无法覆盖的时间维度;二是研究同样的监督对更大规模模型或更早训练阶段(如预训练)是否有效。基于本文成果还可延伸:(1)多图证据组——用跨图像的相关区域替代单图区域组,直接构造"跨图连接证据"数据,有望消除超长上下文处增益收窄的问题,并可直接对标 MMSI-Bench 这类多图空间智能任务;(2)与 Thinking-with-Images 结合——把特权视图从造数据工具变为推理时工具,训练模型在需要时主动请求放大裁剪,验证"先学连接、再学调用工具"的课程式收益;(3)交互式智能体环境——把三区域依赖链扩展为"观察→行动→观察"的轨迹证据链,让 chain_dependency 模式承载真实交互状态;(4)领域适配——对文档、UI、图表图像运行同一流水线,针对性提升 GUI grounding 与图表理解这两个当前仍落后的方向;(5)能力组合研究——把"连接证据"数据与数学、代码 RLVR 数据混合训练,量化感知与推理能力之间的干涉或协同;(6)用论文的注意力 IoU 分析(Table 5,405 个 TreeBench 配对样本上的 layer-wise top-k IoU)作为无标注的数据质量监控信号,在合成时在线过滤让注意力更分散的坏样本。
复现评估
复现条件总体较好。开源情况:代码在 GitHub(inclusionAI/Zooming-without-Zooming-v2),4B/9B/27B 三个模型发布在 Hugging Face collections(inclusionAI/zooming-without-zooming-v2)。数据与配置:图像源 SA-1B 公开;训练集 20.4K 样本的构成统计完整(区域数分布 65.74%/24.34%/7.93%/1.99%,难度分布 easy 33.75%、medium 22.04%、hard 19.07%、very hard 25.14%);附录 A 给出全部实现细节与精确阈值(面积 0.04%-18%、去重 IoU 0.65、裁剪边距 8%、7 色调色板、每图最多 4 题),Table 4 逐项列出每次模型调用的模型、视觉输入、次数与温度,附录 B 提供 10 个完整提示模板,附录 D 给出 GRPO 全部超参(2 epochs、batch 128、lr $10^{-6}$、$G=8$、温度 0.7、最大响应 32K token、解耦裁剪 $\epsilon_{low}=0.2$/$\epsilon_{high}=0.3$、$\beta_{KL}=0$)。算力门槛:合成阶段需调用 Qwen3.5-397B-A17B(出题、锚定、验证主力)、Kimi-K2.6(第二锚定家族)、GLM-5.2(语义等价判分)、Qwen3.6-35B-A3B(难度过滤),每个候选锚定最多 8 次采样、每个区域 1-3 次 drop-one 查询,合成 20.4K 样本的 API 成本不低;训练三个规模的 GPU 需求未明确说明,27B 的 GRPO(每提示 8 个 32K rollout)需要多卡集群。难度评估:流程步骤多但每步规则明确,工程实现直白;最大不确定性是依赖的外部大模型版本的可获取性与可复现的输出质量。综合判断:具备大模型 API 与多卡训练资源的小团队可在中等工作量下复现,数据合成成本是主要门槛。
论文图表
八组柱状图,在 ZoomBench、PerceptionBench、MMSI-Bench、SPAR-Bench、MileBench、ERQA、ViewSpatial-Bench、MMStar 八个代表性基准上对比 ZwZ2-4B/9B/27B 与 DeepSeek-V4.1-Flash、GLM-5.3-Flash、GPT-5.6-Luna。例如 ZoomBench 上 ZwZ2-27B 达 61.8 而前沿模型在 47.2-52.1 之间;ViewSpatial 上 ZwZ2-27B 的 56.3 超过前沿模型的 40.2-54.5。
这是论文开篇的动机图:一眼看出只用 20.4K 合成单图数据训练的开源模型能在多个感知与推理基准上与前沿闭源模型竞争,直观支撑"连接证据是可泛化训练目标"的核心主张。
柱状图展示 Qwen3.5-4B 在 11 个基准上的平均准确率随训练数据规模变化:基座 47.16,7K 样本 52.65,20.4K 全量 53.86。7K 已带来 +5.49 提升,全量再 +1.21。
回答"数据要多少才够":收益在 7K 时已接近饱和,说明 20.4K 的高质量数据效率很高,也提示继续扩量的边际收益有限。
在 405 个带证据框标注的 TreeBench 样本上,逐层(第 4/8/12/16/20/24/28/32 共 8 个全注意力层)计算 ZwZ2 相对基座的 top-k 证据 IoU 变化(百分点)。4B 在 7/8 层为正,9B 在 6/8 层为正,最大层增益 9B 第 28 层 +0.533;少数负层降幅小于 0.03 个百分点。
提供了机制层面的解释证据:训练后模型的高注意力 token 更贴近真值证据区域,说明性能提升确实来自"更会关注并连接任务相关证据",而非表面拟合。
三个对比案例:(a) MIMIC 跨五图找共享类别——基座答 wine glass 并自认"并非每图都有",ZwZ2 逐图核验后答 person;(b) ZoomBench 识别"下拱门上方黑字"——基座认出 SEGATORI 却错配给喷泉而答 FONTE,ZwZ2 正确绑定位置答 SEGATORI;(c) CountQA 数药板药片——基座分区数出 2+4=6,ZwZ2 按两列五行结构数出 5+5=10(正确)。
用具体错误模式具象化"连接证据"的三种失败与修复:跨图全体约束保持、文字与位置绑定、结构化完整枚举,是理解能力定义和训练收益来源的最直观材料。