论文

RAGrasp:几何语义模板检索和抓取迁移

RAGrasp: Geometry-Semantic Template Retrieval and Grasp Transfer

摘要

我们提出了 RAGrasp,这是一种检索增强管道,用于从一组紧凑的本地收集、抓取注释的 RGB-D(颜色和深度)模板中进行平面平行下颌抓取。与主要在大型公共或合成抓取数据集上训练的特定任务预测器不同,RAGrasp 不需要为新部署进行端到端重新训练。其模板记忆是根据目标工作空间中的部署相机、机器人和夹具收集的观察结果构建的,从而将存储的示例与本地传感和实施条件对齐。该系统使用自我监督的 DINOv2 视觉特征以及外观和深度提示来提示分段任何模型 2 (SAM2),从而隔离查询对象。然后,两阶段几何语义检索级联选择一个模板,置信门选择两个掌握转移估计器之一。在校准 2D 到 3D 转换之前,使用掩模支撑和轮廓接触约束来细化转移的抓握。在现实世界的试验中,RAGrasp 在看到的物体上实现了 20/20 的成功抓取,在看不见的物体上实现了 19/20 的成功抓取。在评估的设置中,结果证明了特定于部署的抓取适应从有限的本地注释和对测试视点和照明变化的容忍度。

RAGrasp:几何语义模板检索和抓取迁移的原论文方法或结果图
图 1:RAGrasp 管道概述。第 1 阶段根据 RGB-D 证据形成质量门控 SAM2 查询掩码。第 2 阶段执行轮廓 ICP 入围和基于 DINOv2 的精细排名。第 3 阶段使用置信门选择几何或语义传输路径。第 4 阶段执行掩模约束的局部抓取细化和可选的成功条件记忆更新。第 5 阶段将精细的图像空间抓取转换为校准的机器人命令。