论文
SAILRec:引导 LLM 对双边语义对齐协作嵌入的注意力以进行推荐
SAILRec: Steering LLM Attention to Dual-Side Semantically Aligned Collaborative Embeddings for Recommendation
摘要
最近基于 LLM 的推荐器通过用户-项目交互的协作嵌入来增强语言模型,但使此类嵌入可用并不能确保它们在推理过程中的正确使用。通过诊断注意力分析,我们发现协作嵌入的使用是深度依赖和对齐敏感的,这表明 LLM 需要平衡其内部语义知识与外部协作知识。为了解决这个问题,我们提出了 SAILRec,这是一种基于 LLM 的推荐器,它通过双边语义对齐和分层注意力引导来改善这种平衡。前者将项目侧嵌入与项目文本语义对齐,将用户侧嵌入与基于码本的语义配置文件对齐,而后者抑制过早的浅层协作干扰并增强更深决策层中的协作证据。 MovieLens-1M 和 Amazon-Book 上的实验表明,SAILRec 的性能始终优于代表性基线,消融和掩蔽分析验证了其关键设计。