论文

Ro-SLM:用于机器人任务规划和操作代码生成的板载小语言模型

Ro-SLM: Onboard Small Language Models for Robot Task Planning and Operation Code Generation

摘要

大语言模型 (LLM) 的最新进展为机器人提供了理解人类指令的上下文推理能力。然而,当前支持LLM的机器人通常依赖于基于云的模型或高性能计算基础设施,这限制了它们在不可靠的互联网环境或计算资源有限的机器人上的部署,例如无人机和小型地面车辆。因此,部署支持机载部署的微调小语言模型 (SLM) 提供了一种有前途的替代方案。本文介绍了 Ro-SLM,这是一个通过提炼 LLM 的知识和推理来实现可靠的 SLM 驱动机器人操作的框架。 Ro-SLM 从数据集合成开始,利用 LLM 生成不同的任务指令,以最少的人工协助生成相应的 真值 代码,并将指令增强到现实世界的应用场景中。然后使用数据集对 Ro-SLM 进行微调,其中 LLM 作为奖励函数来指导训练。对无人机作业任务的大量实验表明,Ro-SLM将SLM的性能从无法支持机器人任务规划和代码生成提升到接近LLM的性能。