论文

PanoPlane:稀疏视图室内 3D 高斯泼溅的平面感知全景完成

PanoPlane: Plane-Aware Panoramic Completion for Sparse-View Indoor 3D Gaussian Splatting

应用与实践视觉感知与空间理解

摘要

我们提出了 PanoPlane,一种用于高保真稀疏视图室内新颖视图合成的方法,它通过全景场景完成重建封闭的房间几何形状。与从有限视野生成训练视图的基于透视的方法不同,PanoPlane 利用 $360^{\circ}$ 全景完成来调节完整空间布局的生成过程。我们提出了布局锚定注意力转向,这是一种 无需训练 机制,可在推理时将扩散模型的内部表示中的注意力转向场景检测到的平面。通过将每个未观察区域的注意力引导到几何上一致的观察内容,我们的方法用几何约束表面外推法取代了不受约束的幻觉。由此产生的全景完成为 3D 高斯泼溅提供了监督,从而能够从最少三个输入视图跨未观察到的区域进行准确的新颖视图合成。 Replica、ScanNet++ 和 Matterport3D 上的实验证明了跨 3、6 和 9 个输入视图的最先进的新颖视图合成质量,在没有任何训练或扩散模型的 微调 的情况下,与当前最先进的基线相比,PSNR 实现了高达 $+17.8\%$ 的改进。