论文
语义 ID 推理增强生成推荐
Reasoning over Semantic IDs Enhances Generative Recommendation
摘要
生成推荐领域的最新进展利用了预训练的 LLM,将顺序推荐制定为包含语言标记和项目标识符的统一标记空间上的自回归生成,其中每个项目由离散标记的紧凑序列(即语义 ID (SID))表示。这种基于 SID 的公式能够对大规模项目语料库进行高效解码,并为基于 LLM 的推荐器提供自然的接口,以利用丰富的世界知识。与此同时,LLM 推理的突破激发了推理增强推荐,但对 SID 的有效推理仍然未被充分探索且具有挑战性。项目标记对于 LLM 本身没有意义;此外,面向推荐的SID推理难以评估,导致高质量的监督稀缺。为了应对这些挑战,我们提出了 SIDReasoner,这是一个两阶段框架,通过加强 SID 语言对齐来解锁可转移的 LLM 推理,而不是依赖于大量特定于推荐的推理跟踪,从而引发对 SID 的推理。具体来说,SIDReasoner 首先通过对由更强大的教师模型合成的丰富的以 SID 为中心的语料库进行多任务训练来增强 SID 语言对齐,将项目标记扎根于不同的语义和行为上下文中。在此增强的对齐基础上,SIDReasoner 通过结果驱动的强化优化进一步改进了推荐推理,从而引导模型走向有效的推理轨迹,而无需明确的推理注释。对三个现实世界数据集的广泛实验证明了我们基于 SID 的推理增强生成推荐的有效性。除了准确性之外,结果还凸显了大型推理模型在生成推荐方面的更广泛潜力,包括改进的可解释性和跨领域泛化。