论文

G3T 起来!重力对齐坐标系简化了点图处理

G3T Up! Gravity Aligned Coordinate Frames Simplify Pointmap Processing

应用与实践视觉感知与空间理解

摘要

现代前馈 3D 重建方法(例如 VGGT)可预测以相机为中心的坐标系中的像素对齐点图。然而,这种坐标系的选择并不总是最佳的。相反,我们建议在直立、重力对齐的框架中预测点图,这些框架利用许多现实世界场景中存在的强大结构线索。与以相机为中心的框架不同,重力对齐框架在各个视点之间共享一个公共垂直轴,从而减少了将点图相互关联所需的旋转自由度。为此,我们引入了重力对齐几何 Transformer (G3T),它根据重力对齐 3D 数据的现有模型进行了微调。 G3T 产生高度准确的重力感知预测,包括直立点图和相机到重力姿势。我们进一步介绍了 G3T-Long,一种基于子图的增量 3D 重建管道,它利用直立框架提供的减少的旋转自由度来显着提高重建精度。