论文

LoCoSplat:具有最少 3D 推理的实时前馈 3D 高斯分布

LoCoSplat: Real-Time Feed-Forward 3D Gaussian Splatting with Minimal 3D Reasoning

模型推理推理加速

摘要

前馈 3D 高斯分布 (3DGS) 通过大量学习的 3D 网络越来越多地聚合多视图证据。我们提出 LoCoSplat(局部上下文分布),其动机是观察到高斯是局部基元:一旦预测了深度,3D 阶段必须添加的内容(缩放、旋转、不透明度)取决于每个锚点周围的点云,并且该邻域的固定局部平均值足以提供它,不需要重型网络。 LoCoSplat 正是实现了这个平均值:它将点特征的 16 维线性投影投射到精细和粗糙的网格中,并使用 0.14M-参数逐点 MLP 在每个锚点处读取两者;由于没有学习的 3D 网络,也没有动态稀疏计算,它的整个编码器作为一个 fp16 CUDA 图运行。在 RealEstate10K 上,LoCoSplat 在 6、12 和 24 个视图下的 PSNR、SSIM 和 LPIPS 方面优于所有先前的前馈方法,并且随着视图的致密化,其裕度会扩大(在 24 个视图下,比 VolSplat(现有的体素对齐技术水平,PSNR 多出 +3.3 PSNR),并且在 ScanNet 上零样本传输到 ACID 和微调的情况下进一步增长。它在一个 NVIDIA RTX PRO 6000 GPU 上在 33 毫秒内重建了 6 视图场景,这是七种前馈方法中最快的,并且 $4.2\times$ 比之前的最先进技术更快,训练 $2.7\times$ 更快(24 视图时的 $5.9\times$),并使用 $6.7\times$ 更少的推理记忆。

LoCoSplat:具有最少 3D 推理的实时前馈 3D 高斯分布的原论文方法或结果图
图 1:LoCoSplat 概述。预测深度和每像素特征未投影并体素化为锚点; 3D 阶段对细网格和粗网格中的锚点特征进行平均,并逐点解码每个锚点。整个编码器作为一个 CUDA 图运行。