论文

通过个性化自然语言恢复语义 ID 生成推荐中的协作信号

Restoring Collaborative Signals in Semantic-ID Generative Recommendation via Personalized Natural Language

上下文与知识上下文工程

摘要

通过自然语言和显式推理使基于 LLM 的生成推荐模型更强大、更个性化是一个广泛期待但尚未解决的目标。此类模型将推荐视为自回归生成项目的语义 ID (SID)(离散代码的短元组),因此推荐可以减少为发出正确的 SID。在这种情况下,模型无法很好地表达其知识,并且文本和 SID 标记存在于未对齐的嵌入空间中。因此,深层推理很少能转化为正确的 SID,而明确的“思考”通常不会带来任何好处,甚至会带来伤害。更深层次的原因是紧凑的 SID 无法同时容纳内容和协作信号:两者相互竞争,协作就会失败。由于错误预测的 SID 是错误的推荐,因此这会直接限制准确性。昂贵的多轮训练几乎没有帮助,而且很少有方法尝试在推理时提供丢失的信号。缺少的是一个将协作信号传送到 SID 生成中的可靠通道。因此,我们提出了一个以个性化自然语言为指导的框架,在模型生成时添加分层协作线索,而不改变主干或重新训练 SID。它不是将语言直接映射到 SID,而是使用语言在协作模式与其受众之间附加可分析的链接,从而恢复 SID 错过的协作信号。结果是推荐准确性不断提高,在推理时将协作结构中的生成打下基础,而不是依赖于显式推理或再训练。