← 返回 2026-04-23

图像生成器是通用视觉学习器 Image Generators are Generalist Vision Learners

Valentin Gabeur, Shangbang Long, Songyou Peng, Paul Voigtlaender, Shuyang Sun, Yanan Bao, Karen Truong, Zhicheng Wang, Wenlei Zhou, Jonathan T. Barron, Kyle Genova, Nithish Kannen, Sherry Ben, Yandong Li, Mandy Guo, Suhas Yogin, Yiming Gu, Huizhong Chen, Oliver Wang, Saining Xie, Howard Zhou, Kaiming He, Thomas Funkhouser, Jean-Baptiste Alayrac, Radu Soricut 📅 2026-04-22 👍 23 2026-07-13 08:36
分割 图像生成 指令微调 法向量估计 深度估计 视觉理解

把图像生成器指令微调成统一视觉模型,所有任务都重映射为 RGB 生成。

前置知识

图像生成预训练

在大规模图文对上训练扩散模型或自回归模型,使其能从文本生成高质量图像。代表工作包括 Imagen、SD、Nano Banana Pro 等。模型在生成过程中学到了丰富的世界知识和视觉表征。

本文的整个论点建立在'图像生成器内部已经学会视觉理解'之上,读者需要理解大尺度生成预训练能够涌现通用表征这一前提。

指令微调(Instruction Tuning)

在大模型预训练完成后,用少量带指令格式的数据继续训练,让模型能按用户意图完成任务。在 NLP 中是 GPT-3 到 ChatGPT 的关键一跃,使基础模型变成对齐助手。

本文把视觉任务设计成'指令',仅用极少量任务数据微调基础生成器,复用 LLM 的范式,是理解整个方法的关键类比。

分割 / 度量深度 / 法向量

三类经典视觉密集预测任务:分割给每个像素打类别标签;度量深度预测每个像素到相机的真实物理距离(米);法向量给每个像素预测 (x,y,z) 单位向量表示局部曲面朝向。

这是 Vision Banana 评估的三个核心任务域,读者需要理解这些任务的输出是什么、为什么评估它们能代表视觉理解能力。

RGB 颜色空间与可逆映射

RGB 是三维连续色彩空间,任意三维向量都可被编码为 RGB 像素值。如果设计可逆函数把任务输出映射到 RGB,就能用图像生成器直接生成该输出,再用反函数解码。

本文整个方法的'接口'就是 RGB,需要理解不同任务如何映射到 RGB(颜色块分割、沿 RGB 立方体边的深度映射、法向量直接对应 R/G/B)以及这些映射必须可逆。

零样本迁移(Zero-shot Transfer)

指模型在目标任务的训练集上完全没有训练过,仅靠泛化能力在该任务的测试集上评估。是衡量预训练表征质量的金标准,源自 CLIP/SAM 的评估约定。

本文明确声明未在评估基准的训练集上训练,把 Vision Banana 与同样零样本的方法对比,以证明生成预训练带来的内在理解能力。

研究动机

当前视觉表征学习的主流范式是判别式预训练——监督学习(Dehghani 2023; Dosovitskiy 2020)、对比学习(Chen 2020b,c; He 2020; Radford 2021)、自举(Caron 2021; Grill 2020)、自编码(Bao 2021; He 2022)等及其组合。这些方法为不同任务设计专用架构、专用损失和专用标注数据:SAM 系列用了海量人工标注的 mask,Depth Anything V3 等深度模型依赖相机内参训练和推理。早期的生成式视觉预训练(Bai 2024; Chen 2020a)虽展现出可扩展性,但效果长期落后于判别式方法。近期研究(Wiedemer 2025; Zuo 2025)虽然观察到 SOTA 图像/视频生成器能零样本生成类分割、深度、法向量的可视化,但这些生成无法严格遵循 prompt 输出可解码格式,无法在标准基准上获得 SOTA 量化分数。

本文的目标是本文的核心目标是回答一个猜想:'图像生成器是否本身就是隐藏的通用视觉学习器'。具体而言,作者希望在仅对图像生成器 Nano Banana Pro 做轻量级指令微调的前提下,使其在 2D 语义分割、3D 度量深度估计、表面法向量估计等多项视觉理解任务上达到或接近专用 SOTA 模型的水平,并且不损失原有的图像生成与编辑能力,从而为'生成式视觉预训练是构建通用视觉基础模型的可行路径'这一假设提供严格量化证据。

与已有工作不同的是,与已有思路相比,本文的切入角度是 LLM 类比:把图像生成器当作'基础模型',把视觉任务输出当作'指令对齐目标'。区别于 Ke 2024、Zhao 2025 等'给生成器加专用模块并全量微调'的路线,本文采用最轻量的指令微调(仅以低比例混入任务数据且保留原生成数据混合),不修改架构、不引入专用损失,并通过精心设计的可逆 RGB 编码把任务输出统一映射为图像,使单一权重即可承载分割、深度、法向量、生成、编辑五种能力。

核心方法

方法的核心直觉来自 NLP 中 LLM 的'生成式预训练 + 指令微调'范式:预训练让模型获得通用能力,指令微调教模型以指定格式输出。本文把图像生成器 Nano Banana Pro 当作'视觉基础模型',在其原训练数据中以极低比例混入视觉任务数据,这些任务数据被精心编码为可被生成、又能被解码回原任务输出的 RGB 图像。微调后,单一权重集合就能通过切换 prompt 同时承担图像生成、编辑以及多种密集预测任务。

核心创新在于'把视觉任务输出参数化为 RGB 图像'。对于语义分割,让模型生成按类别着色的彩色图,再用最近邻颜色分类解码;对于度量深度,设计可逆的幂律变换 $f(d,\lambda,c)$ 把 $[0,\infty)$ 的物理距离压缩到 $[0,1]$,再沿 RGB 立方体边缘做可逆插值生成假彩色图;对于法向量,直接把 $(-1,1)$ 区间的 $(x,y,z)$ 线性映射到 $(R,G,B)$。这一设计有三个本质优势:统一了任务接口(单一模型权重)、所需新增训练数据极少(只教格式而非内容)、通过保留原生成数据避免了灾难性遗忘。

方法步骤详情

方法分四步。第一步 RGB 编码设计:分割任务用任意颜色映射(JSON 或自然语言),解码时按 RGB 距离聚类;深度任务用 $f(d,\lambda,c) = 1 - (1 - d/\lambda c)^{\lambda+1}$($\lambda=-3$, $c=10/3$)把距离压缩到 $[0,1)$,再沿 RGB 立方体 Hilbert 边插值生成可逆假彩色图;法向量用 $R = \text{trunc}((1-x)/2)\cdot 255$ 等线性映射。第二步指令微调:将上述任务数据按低比例混入 Nano Banana Pro 原训练分布,保留生成器先验。第三步解码:实例分割用附录 A 的五阶段聚类(背景初始化→颜色相似分组→噪声剪枝→边界侵蚀→空间受限合并)从彩色图恢复离散 mask;深度和法向量用编码的逆映射直接解码。第四步推理集成:RefCOCOg/ReasonSeg 用 Gemini 2.5 Pro 做单轮 query 翻译,SA-Co/Gold 用 Gemini 3.1 Flash-Lite 做正负样本过滤。

技术新颖性

技术新颖性体现在三方面。其一是'零样本生成即理解'的实证:通过简单的 RGB 编码,图像生成器无需任务专属头、专属损失或相机内参就在六个深度基准、四个法向量基准、四个分割基准上击败/追平专用 SOTA,例如 NYU/ETH3D/DIODE/KITTI 四个基准的平均 $\delta_1$ 达 0.929(Depth Anything V3 为 0.918)。其二是'可逆 RGB 编码'的系统化:幂律变换加 Hilbert 边插值形成的 metric depth 与 RGB 的双射,使得生成结果可直接量化评估,这是先前 Wiedemer 2025、Zuo 2025 等工作未能做到的关键。其三是指令微调的极轻量化:仅混入低比例任务数据即可解锁理解能力,并通过 GenAI-Bench 53.5% 与 ImgEdit 47.8% 的胜率证明基础生成能力未被破坏,区别于 Gan 2023、Ke 2024 等全量微调方案。

Vision Banana can perform semantic segmentation, following the instruction prompts.
Figure 2: Vision Banana can perform semantic segmentation, following the instruction prompts.
Vision Banana can perform instance segmentation, one class at a time.
Figure 3: Vision Banana can perform instance segmentation, one class at a time.

实验结果

Vision Banana 在 2D/3D 视觉理解及生成上全面追平或超越专用 SOTA。Cityscapes 语义分割 mIoU 69.9,零样本击败 SAM 3(65.2)4.7 点;SA-Co/Gold $cgF_1$=47.5 远超 OWLv2(24.6)与 Gemini 2.5(13.0);RefCOCOg cIoU 73.8、ReasonSeg gIoU 79.3 均击败 SAM 3 Agent(73.4/77.0)。度量深度在 NYU/ETH3D/DIODE/KITTI 四基准平均 $\delta_1$=0.929,击败 Depth Anything V3(0.918)且不使用相机内参;六基准均值 $\delta_1$=0.882 远超 UniK3D(0.823)。室内法向量 mean error 15.549 优于 Lotus-2 16.558。生成 GenAI-Bench 胜率 53.5%、ImgEdit 47.8%,图 11、12 定性几乎无退化。Kinkaku-Ji 实景测距 13.71 m 对 Google Maps 12.87 m,AbsRel≈0.065。

The instruction-tuned Vision Banana model surpasses or rivals SOTA specialists across visual generation and understanding.
Table 1: The instruction-tuned Vision Banana model surpasses or rivals SOTA specialists across visual generation and understanding.
Semantic segmentation results on Cityscapes val.
Table 2: Semantic segmentation results on Cityscapes val.
Instance segmentation results on SA-Co/Gold.
Table 3: Instance segmentation results on SA-Co/Gold.
Referring expression segmentation results on RefCOCOg val (UMD).
Table 4: Referring expression segmentation results on RefCOCOg val (UMD).
Referring expression segmentation results on ReasonSeg val.
Table 5: Referring expression segmentation results on ReasonSeg val.
Monocular metric depth estimation under the zero-shot transfer setting.
Table 6: Monocular metric depth estimation under the zero-shot transfer setting.
Surface normal estimation results.
Table 7: Surface normal estimation results.
Instance segmentation results on SA-Co/Gold.
Table 8: Instance segmentation results on SA-Co/Gold.
Vision Banana can understand natural language prompts and reason about them.
Figure 4: Vision Banana can understand natural language prompts and reason about them.
Demonstration of Vision Banana's metric depth estimation capabilities.
Figure 6: Demonstration of Vision Banana's metric depth estimation capabilities.
Vision Banana depth estimation in the wild.
Figure 7: Vision Banana depth estimation in the wild.
Comparison with SOTA surface normal estimation method Lotus-2.
Figure 8: Comparison with SOTA surface normal estimation method Lotus-2.
Success cases. Qualitative evaluation of instance segmentation results on SA-Co/Gold.
Figure 9: Success cases. Qualitative evaluation of instance segmentation results on SA-Co/Gold.
Comparing Vision Banana and Nano Banana Pro on text-to-image generation.
Figure 11: Comparing Vision Banana and Nano Banana Pro on text-to-image generation.
Comparing Vision Banana and Nano Banana Pro on image-editing.
Figure 12: Comparing Vision Banana and Nano Banana Pro on image-editing.
查看结构化数据
任务指标本文基线提升
语义分割 (Cityscapes val) mIoU ↑ 69.9 65.2 (SAM 3, 零样本) +4.7 点
实例分割 (SA-Co/Gold) cgF₁ ↑ 47.5 24.6 (OWLv2, 零样本) +22.9 点
实例分割 (SA-Co/Gold) IL_MCC ↑ 0.84 0.57 (OWLv2, 零样本) +0.27
指代分割 (RefCOCOg UMD) cIoU ↑ 73.8 73.4 (SAM 3 + Gemini 2.5 Pro) +0.4 点
指代分割 (ReasonSeg val) gIoU ↑ 79.3 77.0 (SAM 3 Agent) +2.3 点
度量深度 (NYU/ETH3D/DIODE/KITTI 均值) δ₁ ↑ 0.929 0.918 (Depth Anything V3) +0.011
度量深度 (六基准均值) δ₁ ↑ 0.882 0.823 (UniK3D) +0.059
法向量估计 (室内三基准均值) mean angle error ↓ 15.549 16.558 (Lotus-2) -1.009 (更低更好)
文生图 (GenAI-Bench) 对基模型胜率 ↑ 53.5% 46.5% (Nano Banana Pro) +7.0 个百分点
图像编辑 (ImgEdit) 对基模型胜率 ↑ 47.8% 52.2% (Nano Banana Pro) -4.4 个百分点 (轻微退化)

局限与改进

作者明确承认几项局限。其一,SA-Co/Gold $cgF_1$=47.5 仍落后于在 SA-Co 上训练过的 SAM 3(54.1);图 10 显示典型失败模式:在拥挤场景中错误合并实例(图 10a、10e)、把'人群'拆成单人 mask(图 10d)、遗漏目标对象(图 10a、10d)。其二,量化分数部分受 SA-Co 标注偏差影响——Vision Banana 倾向于生成更小更精细的 mask,与 SAM 风格 GT 偏差大,高 IoU 阈值下 F₁ 被压低;定性反而更优。其三,推理开销远高于专用轻量模型,作者明确把'加速与成本削减'列为未来工作的必要门槛。其四,部分查询依赖外接 MLLM:ReasonSeg 用 Gemini 2.5 Pro 做 query 翻译、SA-Co/Gold 用 Gemini 3.1 Flash-Lite 做正负样本过滤,并非真正端到端。此外,独立观察:论文未给出推理延迟、显存占用、训练算力等具体数字;VKitti 户外 mean error 略高于 Lotus-2,提示大尺度室外几何仍有不足。

独立分析的弱点

独立视角看,论文存在四点可改进之处。第一,'零样本'边界模糊:作者用'自研合成数据 + 真实网络图像自标注'训练并强调不含评测基准训练集,但合成管线与真实标注的具体规模、来源、是否真的去污染并未充分审计,存在与 NYUv2 等基准隐式同分布的风险。第二,依赖 MLLM 削弱了'单一通用模型'的叙事——ReasonSeg gIoU 79.3 依赖 Gemini 2.5 Pro 的推理能力,SA-Co/Gold 的 IL_MCC 0.84 主要归功于 Gemini 3.1 Flash-Lite 的判别能力。第三,对失败的诊断集中在定性图,缺乏按图像复杂度、目标数量、类别长尾分布的分层误差曲线。第四,作者声称'AGI-V'但缺乏对任务间干扰(task interference)的定量评估。改进方向:发布完整合成数据管线与去污染审计、用更弱开源 MLLM 替换 Gemini 系列做消融、按场景复杂度报告分层指标、加入跨任务干扰实验。

未来方向

作者在第 4 节给出四条未来方向。一是扩展任务多样性(除分割、深度、法向量外加入更多密集预测任务),观察是否能涌现更强的跨任务泛化,类似 LLM 中 Wei 2021 报告的 emergent abilities。二是把输入从单目图像扩展到多视图输入(参考 Wang 2025a)与视频输入(参考 Zhang 2025),并探索视频生成器是否蕴含更强的时序表征。三是与 LLM 紧耦合做跨模态推理,例如让生成器直接接收推理链 prompt 而非中间 query 翻译。四是最迫切的加速与降本,因为当前每张图的推理开销远高于判别式专用模型。我们还可以基于此成果延伸:把'RGB 即接口'推广到光流、3D 重建占据网格、NeRF 视角合成等任务;研究用同一模型在多任务间动态切换 prompt 的路由器;探索能否用更小的开源图像生成器(如 SDXL)复现部分结果以降低成本。

复现评估

复现门槛较高且不透明。论文仅公开项目页 vision-banana.github.io,未承诺发布代码、模型权重或训练数据。基模型 Nano Banana Pro 是 Google 闭源模型,外部研究者无法获取指令微调起点。评估管线依赖 Gemini 2.5 Pro / 3.1 Flash-Lite 等外部 API,可能引入不可控差异。训练数据方面,作者声称使用'自研模型标注 + 渲染引擎合成',但合成管线、训练时长、所用 TPU 型号与数量、batch size、学习率等关键超参均未披露。合成数据与公开评测基准的去污染审计也未公开。可复现部分相对明确的是解码算法——附录 A 详细给出了五阶段实例分割聚类阈值($\tau=14$, $\theta_{size}=2\times10^{-4}$, $\theta_{erosion}=0.1$, $\gamma=5.0$),以及度量深度到 RGB 的幂律变换公式与 Hilbert 边插值方法,第三方可独立实现评估。整体看更接近 Google 内部研究报告而非开源复现型论文。