MiCU：使用 大语言模型 进行端到端智能家居命令理解

智能家居生态系统中的命令理解系统可以实现设备控制自动化并显着改善用户体验。然而，虽然他们在精确的话语上表现良好（例如，“打开卧室的灯”），但他们在模糊或不一致的命令上表现良好（例如，“让卧室舒适”）。 大语言模型（LLM）在各个领域都有很好的泛化能力，并且在此类任务上可以优于传统的基于规则的系统，但其有效性往往受到特定领域数据稀缺、特定任务适应性不足和计算成本较高的限制。在本文中，我们提出了一种使用用户日志和 LLM 的自动化训练数据合成工作流程；然后我们构建 MiCU，这是一个擅长命令理解的特定领域 LLM。具体来说，我们利用课程学习将领域知识注入到基础LLM中，然后通过冷启动训练结合特定领域思维规则引导的强化学习（RL）来增强其推理能力。此外，我们引入了一种词元压缩技术，可将设备描述压缩为单个特殊词元，从而大大减少推理开销并启用 \model-fast，这是一种针对长输入进行优化的高效变体。大量实验表明，MiCU 的性能显着优于基准，在所有设备类别中平均准确度提高了 20.01%。我们在小米之家应用程序中部署了MiCU，每天获得大约170万的页面浏览量。生产评估显示，MiCU 使用户纠正率降低 1.57%，人工审核准确率提高 32.05%。我们的数据和代码可在 https://github.com/xiaomi-research/iot_spec_llm 获取