图像生成器是通用视觉学习器 Image Generators are Generalist Vision Learners
把图像生成器指令微调成统一视觉模型,所有任务都重映射为 RGB 生成。
前置知识
图像生成预训练
在大规模图文对上训练扩散模型或自回归模型,使其能从文本生成高质量图像。代表工作包括 Imagen、SD、Nano Banana Pro 等。模型在生成过程中学到了丰富的世界知识和视觉表征。
本文的整个论点建立在'图像生成器内部已经学会视觉理解'之上,读者需要理解大尺度生成预训练能够涌现通用表征这一前提。
指令微调(Instruction Tuning)
在大模型预训练完成后,用少量带指令格式的数据继续训练,让模型能按用户意图完成任务。在 NLP 中是 GPT-3 到 ChatGPT 的关键一跃,使基础模型变成对齐助手。
本文把视觉任务设计成'指令',仅用极少量任务数据微调基础生成器,复用 LLM 的范式,是理解整个方法的关键类比。
分割 / 度量深度 / 法向量
三类经典视觉密集预测任务:分割给每个像素打类别标签;度量深度预测每个像素到相机的真实物理距离(米);法向量给每个像素预测 (x,y,z) 单位向量表示局部曲面朝向。
这是 Vision Banana 评估的三个核心任务域,读者需要理解这些任务的输出是什么、为什么评估它们能代表视觉理解能力。
RGB 颜色空间与可逆映射
RGB 是三维连续色彩空间,任意三维向量都可被编码为 RGB 像素值。如果设计可逆函数把任务输出映射到 RGB,就能用图像生成器直接生成该输出,再用反函数解码。
本文整个方法的'接口'就是 RGB,需要理解不同任务如何映射到 RGB(颜色块分割、沿 RGB 立方体边的深度映射、法向量直接对应 R/G/B)以及这些映射必须可逆。
零样本迁移(Zero-shot Transfer)
指模型在目标任务的训练集上完全没有训练过,仅靠泛化能力在该任务的测试集上评估。是衡量预训练表征质量的金标准,源自 CLIP/SAM 的评估约定。
本文明确声明未在评估基准的训练集上训练,把 Vision Banana 与同样零样本的方法对比,以证明生成预训练带来的内在理解能力。
研究动机
当前视觉表征学习的主流范式是判别式预训练——监督学习(Dehghani 2023; Dosovitskiy 2020)、对比学习(Chen 2020b,c; He 2020; Radford 2021)、自举(Caron 2021; Grill 2020)、自编码(Bao 2021; He 2022)等及其组合。这些方法为不同任务设计专用架构、专用损失和专用标注数据:SAM 系列用了海量人工标注的 mask,Depth Anything V3 等深度模型依赖相机内参训练和推理。早期的生成式视觉预训练(Bai 2024; Chen 2020a)虽展现出可扩展性,但效果长期落后于判别式方法。近期研究(Wiedemer 2025; Zuo 2025)虽然观察到 SOTA 图像/视频生成器能零样本生成类分割、深度、法向量的可视化,但这些生成无法严格遵循 prompt 输出可解码格式,无法在标准基准上获得 SOTA 量化分数。
本文的目标是本文的核心目标是回答一个猜想:'图像生成器是否本身就是隐藏的通用视觉学习器'。具体而言,作者希望在仅对图像生成器 Nano Banana Pro 做轻量级指令微调的前提下,使其在 2D 语义分割、3D 度量深度估计、表面法向量估计等多项视觉理解任务上达到或接近专用 SOTA 模型的水平,并且不损失原有的图像生成与编辑能力,从而为'生成式视觉预训练是构建通用视觉基础模型的可行路径'这一假设提供严格量化证据。
与已有工作不同的是,与已有思路相比,本文的切入角度是 LLM 类比:把图像生成器当作'基础模型',把视觉任务输出当作'指令对齐目标'。区别于 Ke 2024、Zhao 2025 等'给生成器加专用模块并全量微调'的路线,本文采用最轻量的指令微调(仅以低比例混入任务数据且保留原生成数据混合),不修改架构、不引入专用损失,并通过精心设计的可逆 RGB 编码把任务输出统一映射为图像,使单一权重即可承载分割、深度、法向量、生成、编辑五种能力。
核心方法
方法的核心直觉来自 NLP 中 LLM 的'生成式预训练 + 指令微调'范式:预训练让模型获得通用能力,指令微调教模型以指定格式输出。本文把图像生成器 Nano Banana Pro 当作'视觉基础模型',在其原训练数据中以极低比例混入视觉任务数据,这些任务数据被精心编码为可被生成、又能被解码回原任务输出的 RGB 图像。微调后,单一权重集合就能通过切换 prompt 同时承担图像生成、编辑以及多种密集预测任务。
核心创新在于'把视觉任务输出参数化为 RGB 图像'。对于语义分割,让模型生成按类别着色的彩色图,再用最近邻颜色分类解码;对于度量深度,设计可逆的幂律变换 $f(d,\lambda,c)$ 把 $[0,\infty)$ 的物理距离压缩到 $[0,1]$,再沿 RGB 立方体边缘做可逆插值生成假彩色图;对于法向量,直接把 $(-1,1)$ 区间的 $(x,y,z)$ 线性映射到 $(R,G,B)$。这一设计有三个本质优势:统一了任务接口(单一模型权重)、所需新增训练数据极少(只教格式而非内容)、通过保留原生成数据避免了灾难性遗忘。
方法步骤详情
方法分四步。第一步 RGB 编码设计:分割任务用任意颜色映射(JSON 或自然语言),解码时按 RGB 距离聚类;深度任务用 $f(d,\lambda,c) = 1 - (1 - d/\lambda c)^{\lambda+1}$($\lambda=-3$, $c=10/3$)把距离压缩到 $[0,1)$,再沿 RGB 立方体 Hilbert 边插值生成可逆假彩色图;法向量用 $R = \text{trunc}((1-x)/2)\cdot 255$ 等线性映射。第二步指令微调:将上述任务数据按低比例混入 Nano Banana Pro 原训练分布,保留生成器先验。第三步解码:实例分割用附录 A 的五阶段聚类(背景初始化→颜色相似分组→噪声剪枝→边界侵蚀→空间受限合并)从彩色图恢复离散 mask;深度和法向量用编码的逆映射直接解码。第四步推理集成:RefCOCOg/ReasonSeg 用 Gemini 2.5 Pro 做单轮 query 翻译,SA-Co/Gold 用 Gemini 3.1 Flash-Lite 做正负样本过滤。
技术新颖性
技术新颖性体现在三方面。其一是'零样本生成即理解'的实证:通过简单的 RGB 编码,图像生成器无需任务专属头、专属损失或相机内参就在六个深度基准、四个法向量基准、四个分割基准上击败/追平专用 SOTA,例如 NYU/ETH3D/DIODE/KITTI 四个基准的平均 $\delta_1$ 达 0.929(Depth Anything V3 为 0.918)。其二是'可逆 RGB 编码'的系统化:幂律变换加 Hilbert 边插值形成的 metric depth 与 RGB 的双射,使得生成结果可直接量化评估,这是先前 Wiedemer 2025、Zuo 2025 等工作未能做到的关键。其三是指令微调的极轻量化:仅混入低比例任务数据即可解锁理解能力,并通过 GenAI-Bench 53.5% 与 ImgEdit 47.8% 的胜率证明基础生成能力未被破坏,区别于 Gan 2023、Ke 2024 等全量微调方案。
实验结果
Vision Banana 在 2D/3D 视觉理解及生成上全面追平或超越专用 SOTA。Cityscapes 语义分割 mIoU 69.9,零样本击败 SAM 3(65.2)4.7 点;SA-Co/Gold $cgF_1$=47.5 远超 OWLv2(24.6)与 Gemini 2.5(13.0);RefCOCOg cIoU 73.8、ReasonSeg gIoU 79.3 均击败 SAM 3 Agent(73.4/77.0)。度量深度在 NYU/ETH3D/DIODE/KITTI 四基准平均 $\delta_1$=0.929,击败 Depth Anything V3(0.918)且不使用相机内参;六基准均值 $\delta_1$=0.882 远超 UniK3D(0.823)。室内法向量 mean error 15.549 优于 Lotus-2 16.558。生成 GenAI-Bench 胜率 53.5%、ImgEdit 47.8%,图 11、12 定性几乎无退化。Kinkaku-Ji 实景测距 13.71 m 对 Google Maps 12.87 m,AbsRel≈0.065。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| 语义分割 (Cityscapes val) | mIoU ↑ | 69.9 | 65.2 (SAM 3, 零样本) | +4.7 点 |
| 实例分割 (SA-Co/Gold) | cgF₁ ↑ | 47.5 | 24.6 (OWLv2, 零样本) | +22.9 点 |
| 实例分割 (SA-Co/Gold) | IL_MCC ↑ | 0.84 | 0.57 (OWLv2, 零样本) | +0.27 |
| 指代分割 (RefCOCOg UMD) | cIoU ↑ | 73.8 | 73.4 (SAM 3 + Gemini 2.5 Pro) | +0.4 点 |
| 指代分割 (ReasonSeg val) | gIoU ↑ | 79.3 | 77.0 (SAM 3 Agent) | +2.3 点 |
| 度量深度 (NYU/ETH3D/DIODE/KITTI 均值) | δ₁ ↑ | 0.929 | 0.918 (Depth Anything V3) | +0.011 |
| 度量深度 (六基准均值) | δ₁ ↑ | 0.882 | 0.823 (UniK3D) | +0.059 |
| 法向量估计 (室内三基准均值) | mean angle error ↓ | 15.549 | 16.558 (Lotus-2) | -1.009 (更低更好) |
| 文生图 (GenAI-Bench) | 对基模型胜率 ↑ | 53.5% | 46.5% (Nano Banana Pro) | +7.0 个百分点 |
| 图像编辑 (ImgEdit) | 对基模型胜率 ↑ | 47.8% | 52.2% (Nano Banana Pro) | -4.4 个百分点 (轻微退化) |
局限与改进
作者明确承认几项局限。其一,SA-Co/Gold $cgF_1$=47.5 仍落后于在 SA-Co 上训练过的 SAM 3(54.1);图 10 显示典型失败模式:在拥挤场景中错误合并实例(图 10a、10e)、把'人群'拆成单人 mask(图 10d)、遗漏目标对象(图 10a、10d)。其二,量化分数部分受 SA-Co 标注偏差影响——Vision Banana 倾向于生成更小更精细的 mask,与 SAM 风格 GT 偏差大,高 IoU 阈值下 F₁ 被压低;定性反而更优。其三,推理开销远高于专用轻量模型,作者明确把'加速与成本削减'列为未来工作的必要门槛。其四,部分查询依赖外接 MLLM:ReasonSeg 用 Gemini 2.5 Pro 做 query 翻译、SA-Co/Gold 用 Gemini 3.1 Flash-Lite 做正负样本过滤,并非真正端到端。此外,独立观察:论文未给出推理延迟、显存占用、训练算力等具体数字;VKitti 户外 mean error 略高于 Lotus-2,提示大尺度室外几何仍有不足。
独立分析的弱点
独立视角看,论文存在四点可改进之处。第一,'零样本'边界模糊:作者用'自研合成数据 + 真实网络图像自标注'训练并强调不含评测基准训练集,但合成管线与真实标注的具体规模、来源、是否真的去污染并未充分审计,存在与 NYUv2 等基准隐式同分布的风险。第二,依赖 MLLM 削弱了'单一通用模型'的叙事——ReasonSeg gIoU 79.3 依赖 Gemini 2.5 Pro 的推理能力,SA-Co/Gold 的 IL_MCC 0.84 主要归功于 Gemini 3.1 Flash-Lite 的判别能力。第三,对失败的诊断集中在定性图,缺乏按图像复杂度、目标数量、类别长尾分布的分层误差曲线。第四,作者声称'AGI-V'但缺乏对任务间干扰(task interference)的定量评估。改进方向:发布完整合成数据管线与去污染审计、用更弱开源 MLLM 替换 Gemini 系列做消融、按场景复杂度报告分层指标、加入跨任务干扰实验。
未来方向
作者在第 4 节给出四条未来方向。一是扩展任务多样性(除分割、深度、法向量外加入更多密集预测任务),观察是否能涌现更强的跨任务泛化,类似 LLM 中 Wei 2021 报告的 emergent abilities。二是把输入从单目图像扩展到多视图输入(参考 Wang 2025a)与视频输入(参考 Zhang 2025),并探索视频生成器是否蕴含更强的时序表征。三是与 LLM 紧耦合做跨模态推理,例如让生成器直接接收推理链 prompt 而非中间 query 翻译。四是最迫切的加速与降本,因为当前每张图的推理开销远高于判别式专用模型。我们还可以基于此成果延伸:把'RGB 即接口'推广到光流、3D 重建占据网格、NeRF 视角合成等任务;研究用同一模型在多任务间动态切换 prompt 的路由器;探索能否用更小的开源图像生成器(如 SDXL)复现部分结果以降低成本。
复现评估
复现门槛较高且不透明。论文仅公开项目页 vision-banana.github.io,未承诺发布代码、模型权重或训练数据。基模型 Nano Banana Pro 是 Google 闭源模型,外部研究者无法获取指令微调起点。评估管线依赖 Gemini 2.5 Pro / 3.1 Flash-Lite 等外部 API,可能引入不可控差异。训练数据方面,作者声称使用'自研模型标注 + 渲染引擎合成',但合成管线、训练时长、所用 TPU 型号与数量、batch size、学习率等关键超参均未披露。合成数据与公开评测基准的去污染审计也未公开。可复现部分相对明确的是解码算法——附录 A 详细给出了五阶段实例分割聚类阈值($\tau=14$, $\theta_{size}=2\times10^{-4}$, $\theta_{erosion}=0.1$, $\gamma=5.0$),以及度量深度到 RGB 的幂律变换公式与 Hilbert 边插值方法,第三方可独立实现评估。整体看更接近 Google 内部研究报告而非开源复现型论文。
论文图表
总览图。左侧展示 Vision Banana 通过 prompt 同时执行文生图、图像编辑、语义/实例/指代分割、深度估计、法向量估计等任务;右侧示意生成的彩色/假彩色图如何被解码回视觉输出用于基准评估。
一张图同时讲清方法目标(多任务统一)与核心技术路线(RGB 可视化 → 解码 → 量化评估),是论文的核心 marketing 图。
展示度量深度到 RGB 的可逆映射:先用 $f(d,\lambda,c)$ 幂律变换把 $[0,\infty)$ 距离压缩到 $[0,1)$,再沿 RGB 立方体 Hilbert 边插值生成假彩色图。图中标注了若干距离值(米)对应的 RGB 颜色。
这是度量深度估计能可逆解码的数学基础,是论文最核心的技术贡献之一。
七组失败案例:墙壁、橱窗、邮箱、人群、家具、花盆、立柱等。典型失败包括错误合并实例(10.a/10.c/10.e)、把'群体'拆成单个 mask(10.d)、遗漏目标(10.a/10.d)。
作者主动披露失败模式,是诚实评估的体现;也是未来工作(提升拥挤场景鲁棒性)的起点。