论文

GaussianGrow:通过文本引导从 3D 点云进行几何感知高斯生长

GaussianGrow: Geometry-aware Gaussian Growing from 3D Point Clouds with Text Guidance

应用与实践内容创作

摘要

3D 高斯分布在渲染效率和质量方面表现出了卓越的性能,但如果没有适当的几何先验,3D 高斯的生成仍然是一个挑战。现有的方法已经探索了预测点图作为推断高斯基元的几何参考,而不可靠的估计几何可能会导致不良的生成。在这项工作中,我们介绍了 GaussianGrow,这是一种通过学习从易于访问的 3D 点云中生长 3D 高斯函数来生成 3D 高斯函数的新颖方法,自然地增强了高斯生成中的几何精度。具体来说,我们设计了一种文本引导的高斯增长方案,该方案利用多视图扩散模型从输入点云合成一致的外观以进行监督。为了减轻融合相邻视图造成的伪影,我们限制了在不同视图的重叠区域中识别的非预设相机姿势生成的新视图。为了完成难以观察的区域,我们建议通过观察点云中最大的未生长区域并通过使用预训练的 2D 扩散模型修复渲染视图来修复它们,从而迭代地检测相机姿势。该过程一直持续到生成完整的高斯分布。我们广泛评估了来自合成甚至真实扫描点云的文本引导高斯生成的 GaussianGrow。项目页面:https://weiqi-zhang.github.io/GaussianGrow