论文

OpenSplatGraph:开放词汇机器人感知的在线场景图

OpenSplatGraph: From Dense Semantic Maps to Structured Scene Graphs for Open-Vocabulary Robot Perception

上下文与知识知识图谱

摘要

具有语义理解的密集 3D 地图对于复杂环境中的机器人感知至关重要。最近基于 3D 高斯 Splatting 的映射方法可实现高保真几何和高效的开放词汇感知,但通常将语义表示为限制以对象为中心的推理的非结构化特征字段。相比之下,3D 场景图显式地建模对象及其关系以进行结构化推理,但通常是根据稀疏几何表示构建的,而这些几何表示并未充分利用密集语义图。在这项工作中,我们提出了 OpenSplatGraph,这是一个统一的框架,可以直接从基于高斯的在线开放词汇语义图构建持久的 3D 场景图。所提出的框架通过可靠性感知语义字段增强了密集语义图,该语义字段维护轻量级观察统计数据以进行置信感知、查询条件对象提取。提取的对象实例与持久图节点相关联,允许跨观察和查询增量更新对象属性和关系。通过将密集语义映射与持久的以对象为中心的表示紧密耦合,我们的框架支持语言引导的对象基础和结构化关系推理,同时保留基于高斯映射的几何保真度。对标准 3D 场景理解基准和现实世界机器人实验的综合评估表明,OpenSplatGraph 在在线开放词汇感知和下游机器人任务方面实现了有竞争力的性能。项目页面:https://csiro-robotics.github.io/OpenSplatGraph.

OpenSplatGraph:开放词汇机器人感知的在线场景图:论文原图
图 1:开放词汇 3D 场景理解的互补表示比较。密集语义图提供高保真几何和语言对齐特征,但将语义表示为非结构化特征字段。场景图显式地建模对象及其关系以进行结构化推理,但通常依赖于稀疏几何表示。我们的框架通过直接从在线密集语义图构建持久的 3D 场景图来桥接这些范例。