集成 LLM 来减轻跨域顺序推荐中的负迁移的双专家策略

跨域顺序推荐 (CDSR) 根据用户跨多个域的历史交互顺序预测用户将与之交互的下一个项目。最近的方法利用在跨域用户序列的文本表示上进行微调的 大语言模型 (LLM) 来检索推荐的项目，称为 LLMRec。然而，LLMRec 主要对 词元级 项目文本的自回归模式进行建模，同时忽略项目级协作信号。这种语义不一致通常会导致跨领域的知识转移扭曲，称为负转移，从而降低 CDSR 任务的性能。为了解决这个问题，我们提出了一种新颖的基于 LLM 的 CDSR 模型，DuELRec：使用 LLM 进行跨域顺序推荐的域门控双重专家。我们提出了一个域门控双专家框架，配备了项目感知注意力转换模块，它将文本子标记聚合为项目级表示并强制执行块级注意力屏蔽。单领域专家将自回归注意力限制在同一领域内的项目，而跨领域专家则允许跨所有领域。门控机制自适应地融合它们的输出，使用单域信号来减少导致负传输的跨域噪声。其次，我们引入了双采样词元到项目对比学习目标，允许 LLM 捕获来自单域和跨域的项目级协作信号。这是通过将 词元级 项目文本转换为项目级表示并应用来自单域和跨域项目池的随机负采样进行对比学习来实现的。对跨 10 个领域的两个真实数据集进行的广泛实验表明，我们的模型在推荐性能方面优于 26 种最先进的方法。