论文

GenRecon:桥接生成先验以进行多视图 3D 场景重建

GenRecon: Bridging Generative Priors for Multi-View 3D Scene Reconstruction

应用与实践视觉感知与空间理解

摘要

我们引入了一种从多视图 RGB 图像进行高保真 3D 场景重建的新方法,该方法将重建与强大的生成 3D 先验紧密结合在一起。我们将场景重建作为条件 3D 生成,生成在一组空间局部的重叠块上,这些块一起平铺场景,将生成扩展到大场景范围。至关重要的是,我们继承了最先进的生成形状模型的保真度和完整性——我们使用 Trellis.2 作为示例——我们将其推广到场景级别。为此,我们提出了一种基于投影的调节机制,将多视图图像特征提升为与生成模型对齐的连贯 3D 表示,独立于视图排序并在空间上锚定到场景,从而产生高保真、多视图一致的生成几何图形。这使得能够将 Trellis.2 的强大对象级先验提升到多视图、场景规模生成,从而生成室内环境的忠实、可编辑的 PBR 网格重建。结果,我们获得了比尖端重建方法高 16% 的高保真结果。