论文

预训练的 LLM 满足顺序推荐器:高效、以用户为中心的 知识蒸馏

Pre-trained LLMs Meet Sequential Recommenders: Efficient User-Centric Knowledge Distillation

摘要

顺序推荐系统在建模时间用户行为方面取得了巨大成功,但在捕获交互模式之外的丰富用户语义方面仍然有限。 大语言模型 (LLM) 提供了通过推理能力增强用户理解的机会,但现有的集成方法会产生令人望而却步的实时推理成本。为了解决这些限制,我们提出了一种新颖的 知识蒸馏 方法,该方法利用预先训练的 LLM 生成的文本用户配置文件到顺序推荐器中,而不需要在服务时进行 LLM 推理。由此产生的方法保持了传统顺序模型的推理效率,同时既不需要架构修改,也不需要 LLM 微调。