GlobalSplat:通过全局场景令牌的高效前馈 3D 高斯泼溅 GlobalSplat: Efficient Feed-Forward 3D Gaussian Splatting via Global Scene Tokens
先全局对齐再解码,把多视图前馈 3DGS 压缩到 16K 高斯仍达 28.5 PSNR
前置知识
3D Gaussian Splatting (3DGS)
一种把场景表示为一组各向异性 3D 高斯椭球的显式表征方法,每个高斯有位置、协方差、球谐系数颜色和不透明度,可用可微分光栅化渲染成图像。
GlobalSplat 的输出仍是一个标准的 3DGS 资产,理解其 splatting 与 alpha-blending 机制是看懂解码与渲染目标的前提。
前馈新视角合成 (Feed-forward NVS)
在单次前向推理中从若干输入图像直接预测 3D 表征并合成目标视角,无需 per-scene 优化;代表工作如 pixelSplat、MVSplat、Zpressor、C3G 等。
本文对比与改进的所有基线都属此类,需先了解其'避免逐场景训练'的核心动机才能体会 GlobalSplat 在效率上的突破。
Plücker 坐标 (Plücker rays)
用射线起点与方向叉积构成 6D 坐标来参数化像素对应的 3D 射线,可直接作为密集图像级几何特征输入网络。
GlobalSplat 的摄像机编码将 Plücker 射线嵌入与每视图相机码拼接作为输入,缺乏此概念会无法理解场景归一化与几何流。
交叉/自注意力 (Cross/Self-Attention)
Transformer 中用 QK 相关性加权聚合 Value 的机制;交叉注意力让令牌从外部上下文检索信息,自注意力让令牌内部交换信息。
GlobalSplat 的双分支编码器每一块都含交叉注意力(对输入视图)与 L=2 层自注意力,是融合多视图到固定令牌的核心算子。
可学习潜变量令牌 (Learnable Latent Tokens)
一组与输入规模无关的可学习向量,作为信息瓶颈使用;类似 Perceiver、SETR、LVSM 中的查询向量,承担把变长输入蒸馏到定长全局表示的职责。
GlobalSplat 的全局场景表征就是 M=2048 个令牌(512 维),固定不变是它能跨视图压缩的关键。
研究动机
现有的前馈 3DGS 管线(pixelSplat、MVSplat、FreeSplat、Zpressor、AnySplat、GGN、C3G 等)普遍依赖逐像素或体素对齐的稠密中间表示:先把多视图特征反投影成 view-anchored 基元,再后处理式地做全局对齐。这种 view-centric 范式在增加输入视角时会引入大量冗余——AnySplat 在 36 视图下要用 3.3M 个高斯,DepthSplat 用 2.36M,Zpressor 固定 393K 也已是本文目标的 ~25 倍。结果就是体量过大(150–600 MB)、推理慢(>500 ms)、GPU 峰值显存高达 25–30 GB,且多视图越多全局一致性越脆弱。作者通过 Fig. 1 直方图明确指出:当前方法在 24 视图下 PSNR 上限约 28.5,但需付出百万级高斯的代价。这构成了显著的工程瓶颈,阻碍 3DGS 的下游部署与实时应用。
本文的目标是GlobalSplat 旨在提出一种'align first, decode later'的前馈 3DGS 框架:在单次前向中,先把所有输入视图融合到一个固定大小的全局潜变量场景令牌中,再由这些令牌直接解码出紧凑的 3D 高斯集。目标的具体指标为:无论输入 12、24 还是 36 视图,都只输出 16K 高斯(2K-32K 可调,占盘 <4 MB);在 RealEstate10K 上 24 视图 PSNR 达到 28.5、推理时间 <78 ms、峰值显存 <2 GB。最终给出一种严格 view-invariant 的预算,从根本上解决高斯数随视角爆炸的问题。
与已有工作不同的是,本文的独特切入角度有三条。其一是把'多视图融合'与'显式 3DGS 解码'两个阶段显式解耦,而不是像 LVSM 那样只用全局潜变量去直接渲染目标视角(渲染仍需重型解码器),也不像 C3G 仅做单高元解码加全自注意力(全局交互开销大)。其二是采用几何 / 外观双流解耦的迭代注意力架构,避免纹理作弊。其三是引入由粗到细的容量课程训练,把每个潜变量槽位的候选高斯从 1 个逐步放开到 8 个,从优化机制上主动防止表征膨胀。这个三件套组合是文中对比基线都没有的。
核心方法
GlobalSplat 的整体思路是:把所有输入图像先用共享的 View Encoder 提特征(融合 Plücker 射线与相机码),然后让一个固定大小的可学习令牌表(2048 个 512 维向量)在双分支编码器中反复交替与这些视图特征做交叉注意、做自注意,几何流与外观流最后用 Mixer MLP 融合。完成 B=4 块迭代后,再由两个专门的几何/外观解码头把令牌映射成显式 3DGS:每个令牌槽位产出 Ks=16 个候选高斯,由粗到细课程在训练中决定实际激活多少(K∈{1,2,4,8})。整套流程输出与视图数无关,保持 2K–32K 高斯的固定预算。
核心创新是与现有前馈 3DGS 范式的根本反转——从'先像素对齐再勉强全局对齐'变成'先用全局令牌做对齐再解码成 3DGS'。这样做的本质区别是:基元是 scene-centric 而非 view-centric 地被分配,使高斯中心可以落到真正的 3D 占据位置,而不是被网格结构钉死在像素/体素锚点。配合双流解耦(geometry vs. appearance,避免用纹理掩盖结构)和参数感知的由粗到细聚合(防止候选冗余),GlobalSplat 以低于 1/25 的高斯数达到与 Zpressor、AnySplat 可比甚至更优的渲染质量。
方法步骤详情
完整流程分五步:(1) 场景归一化——以相机中心均值与平均朝向构 canonical frame,再按相机星座直径缩放尺度,让相机落入统一视锥;(2) 输入准备——每图 patch 化,Plücker 射线经 $W_\text{ray}$ 得 $\hat r_{i,p}$,与相机中心 Fourier 特征+内参 MLP 的 per-view 码 $e_i$ 相加再拼 RGB token 得 $u_{i,p}$;(3) 双分支编码器——M=2048 个 latent token 投到几何/外观两流,各做与输入的交叉注意与 L=2 次自注意后 MLP 融合,迭代 B=4 次;(4) 双分支解码——几何头预测位置/尺度/旋转/不透明度,外观头预测球谐颜色,每槽生成 Ks=16 候选;(5) 由粗到细课程——用温度 softmax 把候选压成 1→2→4→8,监督 $\mathcal L_\text{ren}$、两子集自监督 $\mathcal L_\text{con}$(深度+不透明度)与 $\mathcal L_\text{reg}$(特征阈值+视锥)。
技术新颖性
技术新颖性体现在四个互相耦合的设计。第一是 fixed-budget 场景令牌 + 交叉注意融合,把视图数与表征大小彻底解耦;第二是几何/外观双流架构,从结构上阻止特征坍缩到纹理捷径,作者用 83.4M vs 90M 单流对照证明增益来自结构而非参数;第三是 coarse-to-fine 候选聚合,把容量释放看作'拓扑展开'而非直接全量预测,从而在 16K 预算下稳定优化;第四是绝对相机码与 Plücker 射线并用,弥补了射线参数化在 36+ 视图大规模上下文下的尺度/焦点信息缺失。这是首个把以上要素系统整合到前馈 3DGS 的工作。
实验结果
在 RealEstate10K 24 视图主对比中,GlobalSplat-16K 取得 PSNR 28.53、SSIM 0.883、LPIPS 0.140、#G=16K;32K 变体进一步至 29.48/0.901/0.122,逼近非 3DGS 的 LVSM(27.24),但只用其不到 1/10 高斯。关键优势是 view-invariance:12/24/36 视图下高斯数始终 16K,而基线 AnySplat 从 1500K 膨胀到 3309K。ACID 零样本下 24 视图 16K 拿到 28.03 PSNR,仅次于 Zpressor(28.53)的 4% 高斯数。效率(Tab.3):峰值显存 1.79 GB、推理 77.88 ms、磁盘 3.8 MB,三项均最 compact。消融(Tab.5)显示去掉双流→28.02 PSNR,去课程→27.69,去相机码→28.30,去一致性→28.15,验证每个组件必要。紧凑性消融(Tab.4)说明在同等总预算下增潜变量容量是质变,每 token 高斯数只是量变。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| RealEstate10K 24 视图新视角合成 (PSNR↑) | PSNR (dB) | 28.53 (16K) / 29.48 (32K) | Zpressor 28.51 (393K) / AnySplat 24.11 (2636K) / C3G 23.80 (2K) | 与同体量 C3G 比 +4.73 dB;比 Zpressor 少用 24× 高斯仍 +0.02 dB |
| RealEstate10K 24 视图 SSIM↑ | SSIM | 0.883 (16K) / 0.901 (32K) | Zpressor 0.911 / AnySplat 0.838 / C3G 0.747 | 32K 变体仅以极少差距低于 SOTA,16K 已大幅领先其他紧凑方法 |
| RealEstate10K 24 视图 LPIPS↓ | LPIPS | 0.140 (16K) / 0.122 (32K) | Zpressor 0.097 / AnySplat 0.198 / C3G 0.198 | 16K 优于 C3G、AnySplat 显著;与 Zpressor 在 24× 紧凑下可比 |
| ACID 24 视图零样本泛化 PSNR↑ | PSNR (dB) | 28.03 (16K) | Zpressor 28.53 (393K) / DepthSplat 20.15 (1572K) / GGN 20.90 (396K) | 与 SOTA 仅差 0.5 dB 但高斯数仅为其 4% |
| 效率:24 视图推理时间 | ms / forward | 77.88 ms | Zpressor 194.20 / C3G 387.14 / LVSM 940 / DepthSplat 669.5 | 约为 Zpressor 的 0.4×,C3G 的 0.2×,是所比较方法中最快 |
| 效率:24 视图峰值 GPU 显存 | GB | 1.79 GB | Zpressor 3.70 / DepthSplat 29.84 / GGN 25.08 / C3G 6.04 / LVSM 4.6 | 最低,仅为 DepthSplat 的 6%,满足边缘端/移动端部署 |
| 效率:磁盘占用 (24 视图) | MB on disk | 3.8 MB | Zpressor 134 MB / DepthSplat 534 MB / GGN 174 MB / C3G 0.1 MB | 处于 MB 量级,比 Zpressor 小 35×、比 DepthSplat 小 140× |
| 消融:去掉 coarse-to-fine 课程 | PSNR (RealEstate10K) | 28.57 (full) | 27.69 (direct full-capacity) | 课程恢复 +0.88 dB,表明渐进展开对稳定优化至关重要 |
局限与改进
作者明确承认三条局限。(1) 严格固定的 16K 高斯预算在房间级和局部航拍轨迹上有效,但用于城市级、室外大规模场景可能容量不足,需要可自适应或分层的令牌分配。(2) 当前架构仅针对静态场景,扩展到动态 4D(时空)需要融合时序信息,例如时序交叉注意力。(3) 极稀疏视角(2–3 张)缺乏足够视差来解析全局潜空间,需要更强的单目深度先验辅助。从独立观察看,还有两点隐性局限:(a) Table 2 显示在 ACID 上仍以 0.5 dB 输给 Zpressor,说明在 view-invariance 紧致性极强时仍可能在某些大视角域失去一点边缘质量;(b) 评估仅在 256×256 分辨率,未汇报高分辨率渲染下的高斯利用率与插值表现,对实际部署是潜在风险点。
独立分析的弱点
独立观察到的弱点及改进方向:(1) 全局令牌表固定为 2048,没有路由器机制意味着不同场景共用同一组查询,专业场景(如室内会议、室外街景)无法自适应容量。改进方向是引入 slot-wise 的激活门控或与 DUSt3R/MASt3R 类似的可学习点查询,让模型根据场景复杂度动态分配 token。(2) 一致性损失只在两个输入子集间比较几何(stop-gradient),并未在多视图间显式构造对应场,限制了零样本姿态变化下的鲁棒性。可考虑借鉴 PixelSplat 的 cost-volume 或类似 DUSt3R 的全局回归做更直接的对应监督。(3) 双流架构虽然解耦几何与外观,但 Mixer MLP 仅在 token 维度融合,没有显式的跨分支交叉注意,极端纹理单调/反光场景仍可能引发歧义;可以做一次轻量级几何→外观的 cross-attention 来进一步缓解。(4) 当前实验未给出训练 epoch、总参数量与 FLOPs 随分辨率变化曲线,难以判断是否在更高分辨率下仍保持 <2 GB 显存。
未来方向
作者提出的方向包括:自适应/分层 token 分配以应对城市级、室外大规模场景;通过时空交叉注意力扩展到动态 4D 重建;引入更强单目深度先验缓解极稀疏视角重建。基于成果可做的进一步延伸:(1) 与 LVSM 类'纯潜变量渲染'互补——可把 GlobalSplat 当成显式几何教练,用它的 16K 高斯去蒸馏出更紧致的神经场。(2) 把全球令牌机制推广到多任务(语义分割、表面重建、材质分解)的多任务共享骨架,利用其固定预算实现工业级一致部署。(3) 与 Gaussian Splatting 的后续压缩工作(LightGaussian、TRaIn 等)做后处理链,进一步把 4 MB 缩到 <1 MB 而不损 PSNR。(4) 探索更激进的小型化:把 N=2048 拉到 N=512 甚至 N=128,研究当潜变量压到极小后是否能与逐像素密集管线在轻量场景打成平手。(5) 推广到视频前馈重建,把时序冗余也并入全局令牌。
复现评估
项目主页 https://r-itk.github.io/globalsplat/ 提供论文与补充;论文 Appendix B 详述实现细节。代码与权重是否开源论文未明确说明(摘要未写 'code available'),但主要对比基线(NoPoSplat、AnySplat、DepthSplat、GGN、Zpressor、C3G、LVSM)全部使用官方公开代码与权重评估。数据使用 C3G 给出的 RealEstate10K 划分(基于 NoPoSplat 的 evaluation_index_re10k.json),可直接复用。效率基准在单卡 A100 64GB 完成,但 1.79 GB 峰值显存意味着 RTX 4090/3090 等 24GB 卡也可复现。复现难度中等偏低:架构清晰、数据划分公开,主要风险是双流实现细节以及$\lambda_\text{ren},\lambda_\text{con},\lambda_\text{reg},\lambda_\text{thr},\lambda_\text{fru}$ 的调参。
论文图表
上半图对比传统 Per-Pixel 前馈 3DGS(高斯数随视图膨胀到 100K-Millions,体量 150-600 MB,推理 >500 ms,PSNR ≤28.5);下半图对比 GlobalSplat 的全局令牌管线(固定 16K 高斯、4 MB、<78 ms、28.5 PSNR)。右下雷达图给出 24 视图下 Disk / Size / Time / GPU Mem / #G / PSNR / SSIM / LPIPS 八维对比,GlobalSplat 在紧凑端明显领先。左下展示稀疏高斯以圆盘可视化,揭示低频区域用更大覆盖的高斯即可表达。
直接给出'先对齐后解码'的对比动机与全局性能对比,是理解论文问题定义与贡献的最重要一张图。