面向居家环境中基于LLM的人体活动识别的知识蒸馏

摘要

人体活动识别（HAR）是情境感知应用的核心问题，对智能家居与辅助生活尤为重要。近期少数研究表明，大语言模型（LLM）可用于家庭HAR，达到较高性能并应对关键挑战。本文在两个最先进数据集上提供了关于LLM用于HAR的新实验结果。更具体地，我们展示了识别性能如何随所用LLM的规模变化。此外，我们实验了知识蒸馏技术，用大LLM生成的HAR推理示例来微调较小的LLM。我们表明，这样微调后的模型性能几乎与最大LLM相当，而参数量少50倍。