← 返回 2026-01-08

RGS-SLAM:基于一次性密集初始化的鲁棒高斯泼溅SLAM RGS-SLAM: Robust Gaussian Splatting SLAM with One-Shot Dense Initialization

Wei-Tse Cheng, Yen-Jen Chiou, Yuan-Fu Yang 📅 2025-12-28 👍 4 2026-07-13 08:35
3D Gaussian Splatting SLAM 三角测量 密集视觉SLAM 特征匹配

用密集特征匹配的一次性三角测量替代残差驱动的稠密化,实现稳定高效的高斯泼溅SLAM

前置知识

3D Gaussian Splatting (3DGS)

3D高斯泼溅是一种实时3D场景表示和渲染技术,使用各向异性3D高斯椭球体作为基本图元。每个高斯包含几何属性(均值μ、协方差Σ)和光学属性(颜色、透明度α)。渲染时通过一阶线性化将3D高斯投影到2D图像平面,然后按深度顺序进行α混合累积像素颜色。与体素或神经隐式表示不同,3DGS使用光栅化而非光线行进,可实现实时高质量新视角合成。

本文基于3DGS构建SLAM系统,理解其投影、渲染和优化机制是理解RGS-SLAM的核心基础。

残差驱动稠密化 (Residual-driven Densification)

传统GS-SLAM中动态增加高斯的过程。系统监控渲染残差(像素颜色误差),当某区域残差超过阈值时就在该位置生成新的高斯图元;当高斯过于密集时进行合并。这是一种被动、渐进式的策略:先从稀疏开始,根据误差反馈逐步补充几何。这导致优化目标随拓扑结构变化而不断改变,早期阶段不稳定,且在纹理丰富或复杂区域容易出现覆盖延迟。

这是本文要解决的核心问题。RGS-SLAM用一次性密集初始化完全替代这一过程,理解其局限性才能认识到本文的创新价值。

密集特征匹配 (Dense Feature Matching)

为图像中每个像素建立跨视图对应关系的技术,区别于传统的稀疏关键点匹配。本文使用DINOv3提取像素级密集语义特征描述符,对参考图像和邻近图像中的每个像素计算特征相似度,生成位移场。配合置信度感知的内点分类器(结合前向-后向一致性检查和极线约束),过滤不可靠匹配。输出是密集的像素对应关系及置信度分数。

这是RGS-SLAM一次性密集初始化的数据来源,将视觉相似性转化为几何先验,是替代残差驱动稠密化的关键。

多视图三角测量 (Multi-view Triangulation)

从多个视角的2D对应点恢复3D点位置的几何方法。给定两视图的相机投影矩阵P₁和P₂及匹配像素点x₁和x₂,构建线性系统Ax=0,通过SVD分解求解最小奇异值对应的右奇异向量得到齐次坐标,再归一化为3D点。多视图时选择基线角最大、重投影误差最小的结果。三角测量的精度取决于视角间夹角(基线)和匹配质量,基线太小会导致深度不确定度过大。

本文将密集特征匹配结果通过三角测量转化为3D高斯种子的初始位置,是构建初始高斯集合的核心几何操作。

SE(3)李群和李代数

刚体变换的数学表示。SE(3)表示三维欧氏空间的特殊欧几里得群,元素为4×4齐次变换矩阵T=[R|t],R∈SO(3)是旋转矩阵,t∈R³是平移向量。李代数se(3)是SE(3)在单位元处的切空间,用6维向量ξ=[ρ;φ]∈R⁶表示,其中φ是轴角表示的旋转(3维),ρ是平移。通过指数映射exp:se(3)→SE(3)可相互转换。优化时在李代数空间进行无约束优化,避免矩阵正交约束。

本文使用解析的SE(3)雅可比矩阵进行相机位姿优化,理解李群表示有助于理解优化的数学原理和效率优势。

研究动机

现有基于3D高斯泼溅的SLAM系统普遍依赖残差驱动的稠密化策略来逐步构建场景地图。这种被动式增长机制带来三个核心问题:首先,优化目标函数是非静态的,随着高斯图元的动态增减,损失函数的拓扑结构不断变化,导致收敛过程不稳定,在纹理丰富或杂乱区域容易出现覆盖延迟和几何不一致。其次,早期阶段地图覆盖稀疏,新添加的高斯参数缺乏充分约束,容易过度拟合局部残差,引起位姿漂移。最后,稠密化过程需要反复检测残差、分裂合并高斯,增加了计算开销和系统复杂度。在TUM RGB-D数据集的fr2/xyz序列上,MonoGS平均需要14.8分钟的训练时间才能收敛,且在复杂室内场景中常出现明显的几何重建偏差和透明伪影。

本文的目标是本文旨在设计一种一次性密集初始化机制,完全替代传统的残差驱动稠密化过程。核心目标是在每个关键帧时刻,通过密集特征匹配和多视图三角测量一次性生成结构感知的高斯种子集合,使得优化过程从一开始就拥有完整且分布均匀的几何先验。具体包括:将定位精度提升超过30%,将优化收敛时间缩短约20%,在保持实时渲染性能的同时达到925 FPS的吞吐量,并将重建精度和完整度提升约20%。系统需要保持与现有GS-SLAM管道的完全兼容性,仅替换稠密化模块而不改变核心优化器和渲染器。

与已有工作不同的是,本文的独特切入角度是跳出了"从稀疏到密集逐步增长"的传统范式,转而采用"从密集初始到精细调优"的逆向思路。与SfM或MVS等离线重建方法不同,RGS-SLAM不需要全局集束调整,而是基于局部关键帧窗口的在线密集三角测量;与学习型深度预测方法不同,本文完全依赖训练-free的几何先验,不需要额外的网络或损失函数。最关键的创新是将视觉特征的密集对应关系直接映射为可微分的3D高斯参数空间,用一次性的结构化种子替代迭代的误差驱动增长,从根本上消除了拓扑变化导致的优化非静态性。

核心方法

RGS-SLAM的整体思路是将高斯地图初始化从渐进式稠密化改为一次性密集播种。系统在每个关键帧时刻执行以下流程:首先使用DINOv3提取当前关键帧及其邻近帧的密集视觉特征描述符,通过像素级匹配建立跨视图对应关系;然后应用置信度感知的内点分类器,结合前向-后向一致性检查和极线约束过滤不可靠匹配,得到每个像素的置信度分数;接着对保留的像素对进行多视图三角测量,将密集的2D对应关系转化为3D点云,选择基线角最大且重投影误差最小的假设;最后为每个三角测量点初始化一个高斯图元,包括位置μ(三角测量结果)、协方差Σ(基于局部平面拟合和投影雅可比构建)、颜色(支持视图的中值RGB)和透明度α(置信度的单调映射)。这些高斯种子立即插入地图参与后续的光度优化,而不再执行任何稠密化操作,整个过程中拓扑结构保持固定。

核心创新点是将残差驱动的拓扑增长替换为几何驱动的拓扑固定初始化。传统方法在优化过程中不断添加和删除高斯,导致优化目标函数非静态,新参数缺乏约束;RGS-SLAM在优化开始前就通过密集特征匹配一次性确定高斯集合的大小和空间分布,优化过程只调整每个高斯的参数(均值、协方差、颜色、透明度)而不改变拓扑。这种设计带来三个本质优势:第一,优化目标函数从第一个迭代就是静态的,不存在拓扑变化的离散跳变;第二,每个高斯从一开始就拥有多视图几何支持,参数初始化质量高,收敛更稳定;第三,完全消除了残差检测、分裂合并等稠密化计算开销,提高了吞吐量。与MonoGS相比,RGS-SLAM在相同的优化器、学习率调度和窗口大小配置下,将TUM RGB-D序列的平均训练时间从14.8分钟缩短到12.0分钟。

方法步骤详情

RGS-SLAM的完整工作流程包含四个关键步骤:第一步是相机位姿跟踪,对每一帧新图像,基于当前高斯地图G渲染合成图像,使用光度损失Epho=∥I(G,TW C)-Ī∥₁进行优化,其中I是渲染图像,Ī是观测图像,TW C是世界到相机的位姿。通过解析的SE(3)雅可比矩阵计算梯度,使用Adam优化器进行30次梯度步更新。采用α混合和曝光补偿(仿射亮度模型gI·I+bI)提高鲁棒性,低透明度或低梯度区域的像素权重降低以减少纹理无关区域的影响。第二步是关键帧调度,基于高斯可见性重叠计算当前帧Ik与上一个关键帧Ik⋆的重叠度IoU(Ik,Ik⋆)=|V(Ik)∩V(Ik⋆)|/|V(Ik)∪V(Ik⋆)|,其中V(I)是屏幕空间透明度超过阈值的像素集合。当IoU低于阈值τ且视差超过边界时创建新关键帧,将最近8-12个关键帧存储在缓冲区B中用于多视图初始化。第三步是密集特征匹配和三角测量,对当前关键帧Ir和K个邻近帧Nr⊂B,使用DINOv3计算像素级描述符fr(p)和fn(q),对每个参考像素p计算位移场ur→n(p)和置信度κr→n(p)∈[0,1],置信度结合描述符相似度、前向-后向一致性和极线距离。经过对称极线测试和空间蓝噪声抽样后,对每个保留像素进行线性三角测量,选择重投影误差最小且基线角足够大的结果。第四步是高斯参数初始化,每个有效三角测量点生成一个高斯Gi,世界坐标均值μWi=X̂(p)。通过邻域点拟合局部平面构建正交坐标系Ui=[t₁,t₂,v],v是表面法线,t₁,t₂是切平面基向量。协方差初始化为各向异性椭球ΣWi=Ui diag(s⊥²,s⊥²,s∥²)Uiᵀ,其中s⊥通过投影雅可比反投影一个像素的不确定性得到,s∥根据基线角和三角测量残差设定更大的值以编码深度不确定性。颜色ci是支持视图RGB采样值的中值,透明度αi是置信度κ̄(p)的单调映射。最后进行世界空间的Poisson圆盘抽样以保持均匀覆盖,立即插入地图G。

技术新颖性

RGS-SLAM的技术新颖性体现在四个方面:第一,首次将密集特征匹配与3D高斯表示直接桥接,用训练-free的几何先验替代了传统的学习型深度预测或误差驱动稠密化,完全不需要额外的网络或损失函数。第二,设计了一个轻量级的置信度感知内点分类器,将描述符相似度、前向-后向一致性和极线约束融合为单一置信度分数,在保持泛化性的同时有效过滤误匹配。第三,提出了结构感知的高斯协方差初始化策略,根据局部表面法线和投影几何构建各向异性椭球,切向尺度由像素不确定性反投影确定,轴向尺度编码基线角和三角误差带来的深度不确定性,比各向同性球体或启发式尺度更符合几何直觉。第四,系统实现了完全解析的SE(3)雅可比计算和α混合梯度传播,避免了昂贵的自动微分开销,在保持可微分渲染优势的同时达到实时性能。与MonoGS在Replica数据集上的769 FPS相比,RGS-SLAM达到925 FPS的吞吐量,定位精度平均ATE从0.76 cm降低到0.61 cm。

Overview of the proposed RGS-SLAM pipeline
Figure 1: Overview of the proposed RGS-SLAM pipeline
Detailed RGS-SLAM pipeline
Figure 2: Detailed RGS-SLAM pipeline
Tracking error versus Gaussian count
Figure 5: Tracking error versus Gaussian count

实验结果

在TUM RGB-D和Replica数据集上的系统评估表明,RGS-SLAM在定位精度、渲染质量和重建完整性方面均达到或超越当前最优方法。TUM RGB-D上三个序列(fr1/desk、fr2/xyz、fr3/office)的平均绝对轨迹误差(ATE RMSE)为1.02 cm,优于MonoGS的1.47 cm和Point-SLAM的3.04 cm,相比传统方法如NICE-SLAM(4.77 cm)和Vox-Fusion(10.34 cm)有显著提升。Replica上八个场景(room0-2和office0-4)的平均ATE为0.61 cm,超越ESLAM(0.90 cm)、NICE-SLAM(1.07 cm)和Vox-Fusion(3.09 cm),与Point-SLAM(0.53 cm)和MonoGS(0.76 cm)保持竞争力。收敛速度方面,TUM RGB-D上的平均训练时间从MonoGS的14.8分钟缩短到12.0分钟,约20%的提升。渲染吞吐量在Replica上达到925 FPS,超过MonoGS的769 FPS。重建完整性测试中,RGS-SLAM在Replica上实现97.843%的完整性比例、1.537 cm精度和1.477 cm完整度,相比SNI-SLAM的96.624%、1.942 cm和1.702 cm,精度提升20.9%,完整度提升13.2%。消融研究表明,禁用密集特征匹配后,TUM RGB-D的PSNR从23.11/24.85/23.59 dB下降到19.67/16.17/20.63 dB,SSIM从0.853/0.896/0.801下降到0.73/0.72/0.77,ATE从1.02/0.98/1.05 cm增加到1.5/1.44/1.49 cm,验证了密集初始化的必要性。高斯数量实验显示,当每个关键帧的新增高斯数从200增加到1000时,跟踪误差从约1.1 cm快速下降到0.7 cm,超过1000后边际收益递减,2000时约为0.6 cm。

Optimization time on TUM RGB-D sequences
Table 1: Optimization time on TUM RGB-D sequences
Camera tracking results on the Replica dataset
Table 2: Camera tracking results on the Replica dataset
Camera tracking results on the TUM RGB-D dataset
Table 3: Camera tracking results on the TUM RGB-D dataset
Rendering quality results on the Replica dataset
Table 4: Rendering quality results on the Replica dataset
Rendering quality results on the TUM RGB-D dataset
Table 5: Rendering quality results on the TUM RGB-D dataset
Reconstruction results on the Replica dataset
Table 6: Reconstruction results on the Replica dataset
Impact of DFM on the TUM RGB-D dataset
Table 7: Impact of DFM on the TUM RGB-D dataset
Trajectory comparison on a living-room scene
Figure 3: Trajectory comparison on a living-room scene
Rendering results on the TUM dataset
Figure 4: Rendering results on the TUM dataset
Rendering results on the Replica dataset
Figure 6: Rendering results on the Replica dataset
Tracking on Replica office0
Figure 7: Tracking on Replica office0
Tracking on Replica office2
Figure 8: Tracking on Replica office2
查看结构化数据
任务指标本文基线提升
相机跟踪(TUM RGB-D) ATE RMSE [cm] 1.02 MonoGS: 1.47 30.6%降低
相机跟踪(Replica) ATE RMSE [cm] 0.61 Point-SLAM: 0.53, MonoGS: 0.76 优于MonoGS 19.7%,略低于Point-SLAM
渲染吞吐量(Replica) FPS 925 MonoGS: 769 20.3%提升
训练收敛时间(TUM RGB-D) 分钟 12.0 MonoGS: 14.8 18.9%缩短
重建精度(Replica) Acc. [cm] 1.537 SNI-SLAM: 1.942 20.9%降低
重建完整度(Replica) Comp. [cm] 1.477 SNI-SLAM: 1.702 13.2%降低
重建完整性比例(Replica) Comp.Ratio [%] 97.843 SNI-SLAM: 96.624 1.22个百分点
渲染PSNR(Replica) PSNR [dB] 34.57 MonoGS: 37.50 略低,但LPIPS相当

局限与改进

作者在补充材料中明确承认了三个主要局限:首先,当前评估仅限于Replica和TUM RGB-D的室内静态场景,在高度动态场景、强卷帘快门干扰或极端外观变化下的鲁棒性尚未验证。密集对应关系依赖单一预训练的DINOv3骨干网络,当出现剧烈光照变化、强运动模糊或超出训练分布的相机视角时,三角测量种子可能产生偏差或缺失。其次,固定拓扑策略虽然提高了稳定性,但在大纹理少表面、精细镜面结构或视觉支持弱的物体上可能留下持久的覆盖间隙,限制重建质量。第三,系统假设已标定的针孔相机模型和同步的RGB-D流,没有利用机器人平台常用的激光雷达或惯性测量单元信息。此外,系统仍需要中等内存的GPU来维持高帧率,内存预算限制、长期地图增长和大规模闭环回环在资源受限设备上的表现尚未表征。独立观察来看,DINOv3特征的语义一致性可能在重复纹理区域(如白墙、地砖)导致误匹配,Poisson圆盘抽样虽然保证了均匀覆盖,但可能牺牲高频细节的密度。

独立分析的弱点

RGS-SLAM存在三个可改进的技术弱点:第一,固定拓扑初始化在面对大平面纹理缺失区域时容易出现覆盖空洞。例如在Replica的办公室场景中,白色墙面和大面积天花板因为DINOv3特征缺乏区分性,无法产生足够可靠的密集匹配,导致这些区域的重建质量下降。改进方向是结合多模态线索,引入深度补全网络或平面检测先验,在视觉特征弱的区域生成补充性高斯种子。第二,置信度分类器虽然训练-free,但仅依赖描述符相似度、前向-后向一致性和极线距离的线性组合,难以处理重复模式和周期性结构。例如对称物体的左右两侧容易产生误匹配,建议引入几何一致性检查(如平面约束)或自监督学习的置信度校准模块。第三,系统缺乏长期回环检测和全局优化机制,在长时间运行或大规模场景中可能累积漂移。可以集成词袋模型或基于DINO特征的回环识别,结合集束调整进行全局位姿图优化,同时保持高斯表示的局部性。

未来方向

作者提出的未来研究方向包括:扩展到高度动态场景和户外环境,将RGS-SLAM与运动分割或动态物体建模结合;利用激光雷达或IMU等多传感器融合提高鲁棒性;探索自适应拓扑管理策略,在固定拓扑和动态稠密化之间找到平衡;研究长期地图管理和增量式场景更新机制。基于当前成果,可延伸的研究方向包括:将密集初始化与语义分割结合,构建语义感知的SLAM系统;探索神经辐射场与高斯泼溅的混合表示,在高频细节区域使用高斯,在平滑区域使用神经隐式函数;研究分布式高斯地图的流式处理,支持大规模场景的实时建图;将置信度感知的匹配策略迁移到其他视觉任务,如多视图立体匹配和结构从运动;优化内存访问模式,将RGS-SLAM部署到边缘设备或移动平台。

复现评估

作者在补充材料中声明将开源完整代码库,匿名版本已发布在GitHub(https://github.com/Breeze1124/RGS-SLAM)。代码使用PyTorch实现核心SLAM管道,关键渲染和雅可比计算使用自定义CUDA内核。仓库包含完整配置文件、TUM RGB-D和Replica的评估脚本以及复现论文中所有定量表格和定性渲染的说明。优化设置与论文第3、4节描述一致,使用Adam优化器,颜色和透明度参数的基础学习率为2.0×10⁻³,位置和旋转为1.0×10⁻³,余弦衰减调度。初始化窗口为5帧,运行1050次迭代后开始实时跟踪,在线操作时每帧执行30次跟踪迭代,每个接受的关键帧触发60次映射迭代。实验在配备两块NVIDIA L40 GPU和Intel Xeon Platinum 8362 CPU(2.80 GHz)的工作站上运行,混合精度(FP16/FP32)在提高吞吐量的同时保持稳定性。每个实验重复三次,报告平均结果。总体而言,复现难度中等,需要GPU支持和一定的SLAM背景知识,但详细的配置说明和公开代码大大降低了门槛。