论文

批量机器人策略服务的动作块调度

Action Chunk Scheduling for Batched Robot Policy Serving

AI 基础设施推理服务

摘要

大规模部署机器人基础模型是实现通用机器人潜力的下一步。然而,视觉-语言-动作(VLA)和其他基础模型对计算的要求很高,并且设备上的计算受到功率和空间的限制。在本文中,我们介绍了从远程 GPU 向多个机器人提供机器人策略的问题,并将其表述为调度问题。我们构建了军械库,这是一个在模拟和真实机器人车队上进行验证的服务系统。我们的实验表明,当所有机器人都相同时,朴素调度启发式表现良好,但当机器人以不同速率消耗动作块时,则表现不佳,揭示了传统批处理方法与机器人策略执行的闭环要求之间的不匹配。为了解决这个问题,我们提出了一种调度算法,该算法考虑了这种异构性,并在实际实验中将整体系统吞吐量提高了高达 18\%$。更多详细信息请访问 https://gatech-rl2.github.io/actionchunkscheduling。