ORICF——开放机器人推理和控制框架

人工智能 (AI) 的最新进展为机器人提供了有效的感知和语言模型，但其部署的计算成本仍然很高，从而增加了延迟和能源消耗。这项工作提出了开放机器人推理和控制框架（ORICF），这是一个模块化、声明性和模型无关的平台，用于组成多模式机器人推理管道。 ORICF 集成了输入/输出 (I/O) 适配器、可插入推理后端和后处理逻辑，而轻量级 YAML 规范允许在不修改代码的情况下更改模型、硬件目标和数据通道。该框架还支持边缘卸载，即在附近的外部计算机而不是机器人上执行推理。 ORICF 在移动机器人上进行评估，该机器人通过机器人操作系统 2 (ROS2) 结合自动语音识别 (ASR)、大语言模型 (LLM) 和卷积神经网络 (CNN) 检测器来回答有关在其摄像头流中检测到的人员的口头查询。与机载执行相比，基于 ORICF 的边缘部署可将机器人端计算利用率降低高达 83.16%，预计能耗降低 65.8%，同时保持模块化和可重复性。