论文

具有混合定位的动态弹性空间语义记忆,用于移动操作

Dynamic Resilient Spatio-Semantic Memory with Hybrid Localization for Mobile Manipulation

摘要

动态室内环境中可靠的移动操作需要场景表示在环境变化时保持几何一致、语义可查询和计算限制。现有系统通常依赖于预先构建的地图、静态场景假设或高度准确的相机姿势,这可能会在重新定位目标对象或校正姿势估计时导致场景信息过时或错位。本文介绍了 DREAM,一个真正的机器人移动操纵框架,它集成了感知、记忆、定位、导航和在以前未见过的室内环境中进行操纵,而无需预先构建地图。 DREAM 根据 LiDAR 惯性视觉 SLAM 后端记录的 RGB-D 观察结果构建在线空间语义体素存储器。它还引入了姿态图感知冗余感知内存修剪(RMP),以在姿态校正后更新历史观测结果,同时保持长视野观测历史有界。对于目标定位和重新获取,DREAM 结合了语言条件 3D 检索、开放词汇图像检测和基于多模态 大语言模型 的语义验证。在四个动态室内实验室场景中进行的真实机器人实验表明,DREAM 将 DynaMem 的长视野任务成功率从 40%-60% 提高到 55%-70%,同时保持 0.37-0.63 GB 的内存占用和跨场景的在线内存更新时间为 0.43-0.53 秒。