论文

D3GS:用于稀疏视图重建的深度、DINO 和 RGB 扩散共同引导 3D 高斯泼溅

D3GS: Depth, DINO, and RGB Diffusion Co-Guided 3D Gaussian Splatting for Sparse-View Reconstruction

应用与实践视觉感知与空间理解

摘要

由于几何形状不明确、跨视图不一致以及欠约束区域细节缺失,导致重建质量下降和渲染不稳定,从稀疏输入合成新颖的视图对于 3D 高斯泼溅 (3DGS) 来说仍然具有挑战性。为了解决这些问题,我们提出了 D$^{3}$GS,一种深度恐龙扩散引导的稀疏视图高斯重建框架,可共同增强几何形状和外观。 D$^{3}$GS 首先通过基于扩散的补全和 DPT(密集预测变换器)细化恢复高分辨率的度量深度图,提供稳健的高斯初始化和几何约束。然后,引入 DINO 引导的视图一致性学习,用结构特征增强高斯属性,提高多视图一致性。最后,基于扩散的高斯细化模块将生成先验注入迭代优化策略中,增强高斯表示内的高频几何和外观细节。 DTU、LLFF 和 Mip-NeRF 360 上的实验表明,D$^{3}$GS 在强大的基线上实现了一致且实质性的改进,消融研究验证了每个组件的有效性和互补作用。