论文
IMFuse:LLM 增强型顺序推荐的实例感知多层融合
IMFuse: Instance-Aware Multi-Layer Fusion for LLM-Enhanced Sequential Recommendation
摘要
大语言模型 (LLM) 的最新进展通过将丰富的项目文本信息编码为语义表示,显着增强了顺序推荐。然而,现有方法通常依赖于 LLM 的最终层隐藏状态,忽略了其他层中编码的潜在有用的语义信号。通过实证分析,我们揭示了这种做法的局限性:最终层表示经常遭受维度崩溃,而中间层保留互补的、从粗到细的语义知识。此外,我们观察到不同的项目表现出异构的分层表示演化,使得统一的层选择不是最优的。为了弥补这一差距,我们提出了 IMFuse,这是一种为 LLM 增强推荐而设计的实例感知多层融合策略。 IMFuse 不依赖单层,而是通过学习全局维度层偏好来自适应聚合多层语义信息,以捕获一般语义贡献。为了解决项目级异质性,IMFuse 引入了实例感知专家调制机制,可以动态调整这些全局偏好,生成个性化的、特定于项目的语义表示。四个真实世界数据集的大量实验证明了 IMFuse 的有效性。它始终优于最先进的基线,平均相对改进为 6.72%,同时引入了有限的参数和计算开销。