论文

OmniView-Space:通过多视角空间映射强化空间推理

OmniView-Space: Reinforcing Spatial Reasoning via Multi-Perspective Spatial Mapping

模型推理推理策略与问题分解

摘要

空间智能仍然是多模态 大语言模型 (MLLM) 面临的持续挑战,因为它需要超出基本对象识别的连贯空间场景表示。现有方法通常通过文本推理或 3D 重建来构建此类表示。然而,它们在多步骤推理过程中经常会出现问题,特别是当需要动态地将证据重新锚定到复杂查询所需的特定相机、对象或以方向为中心的参考帧时。为了解决这个问题,我们提出了 OmniView-Space,这是一个旨在通过多模式自我中心证据保持空间一致性的框架。我们的方法由三个核心组成部分组成:(1)多视角空间映射(MPSM),它将重建的几何图形重新锚定为查询对齐的视觉认知图和文本空间图; (2)工具引导的自我中心推理,一种经过训练的交错策略,用于主动选择查询所需的自我锚并请求相应的 MPSM 证据; (3) 认知地图 蒸馏,它使用 MPSM 生成的轨迹和自我框架奖励来训练模型使用自我生成的认知地图进行推理。单图像和多图像空间推理基准的实验表明,OmniView-Space 实现了最先进的性能。此外,蒸馏模型保持了这种性能,同时减少了对外部几何管道的依赖。