论文

设备上机器人规划:消除推理冗余以实现高效决策

On-Device Robotic Planning: Eliminating Inference Redundancy for Efficient Decision-Making

模型推理推理加速

摘要

使用大型语言和视觉语言模型的基于推理的机器人策略实现了强大的语义规划能力,但大多受到高推理延迟的影响,限制了实际的实时部署。在这项工作中,我们观察到机器人推理工作负载包含大量的时间冗余,其中连续的观察经常产生相同的动作和子目标。基于这一见解,我们提出了 REIS,这是一种受人类认知启发的机器人决策框架,可以最大限度地减少不必要的推理,同时保留语义适应性。 REIS 结合了轻量级场景选通、KV 引导的可供性路由和深思熟虑的推理,以在具体约束下加速机器人控制。 ALFRED 和现实世界机器人任务的实验表明,REIS 显着抑制了推理开销,同时保持了有竞争力的任务性能。