论文

Fisheye-VLA:使用单个鱼眼相机解耦覆盖范围和操作敏锐度

Fisheye-VLA: Decoupling Coverage and Acuity for Manipulation with a Single Fisheye Camera

上下文与知识上下文工程

摘要

操作需要广泛的场景感知和详细的本地反馈,而传统的摄像头设备通过单独的前置摄像头和腕部摄像头提供这些信息。我们推出了 Fisheye-VLA,这是一种视觉界面,它使用单个被动鱼眼将这些功能结合在一起。全局视图保留了工作空间,而局部视角则直接裁剪交互细节。关键的设计问题是本地视觉预算应该花在哪里。我们通过受控的重新渲染研究来回答这个问题,比较相同记录观察结果的替代作物方向。研究发现,以末端执行器为中心的视图捕获了更大的候选池的大部分估计收益,从而激发了围绕双手的紧凑分配。我们的界面使用校准的末端执行器投影和运动引线来跟踪农作物,而共享的光线编码在它们移动时保留它们的空间意义。与预训练的 VLA 集成,它在两个扩展的桌面区域中实现了 84% 和 82% 的成功,其中一些目标放置超出了前置摄像头的覆盖范围,并支持货架和传送带操作。消融表明,在较大的工作空间区域中,当地作物及其观察方向变得更加重要。结果表明,单个鱼眼可以支持这些操作任务,而无需物理腕式摄像头。