论文

SceneAligner:野外 3D 3D 场景关联平面图定位

SceneAligner: 3D-Grounded Floorplan Localization in the Wild

应用与实践视觉感知与空间理解

摘要

许多公共建筑的平面图都带有“您在这里”的指示符,以帮助游客确定方向。平面图定位旨在通过确定在平面图中捕获视觉观察的位置来在计算上复制此功能。然而,现有方法通常假设受控的小规模环境和精确的矢量化平面图,限制了它们在大型建筑物和栅格化平面图中运行的能力。在这项工作中,我们提出了一种通过将任务基于场景的重建 3D 表示来在野外执行平面图定位的方法。给定一个不受约束的图像集合,我们的方法会重建重力对齐的 3D 场景,并将其投影到用作平面图代理的 2D 密度图中。然后,平面图定位被公式化为通过 2D 相似变换将该代理与输入平面图对齐。为了弥合密度图和建筑平面图之间的外观差距,我们采用 2D 基础模型来学习跨模式对应,引入 微调 方案,该方案鼓励语义对齐匹配,同时保持结构一致性。大量的实验表明,与之前的方法相比,有显着的改进,包括在只有单个输入图像的极其稀疏的设置中。我们的代码和数据将公开。