论文
LaRec:释放基于 LLM 的生成推荐潜在推理
LaRec: Unleashing LLM-based Latent Reasoning for Generative Recommendation
摘要
大语言模型(LLM)由于卓越的推理能力,在推荐方面表现出了巨大的潜力。然而,现有方法主要依赖于显式的思想链(CoT),导致推理文本冗长且响应时间低效。潜在推理旨在通过在连续的潜在空间内进行思考来平衡效率,但它面临着两个主要挑战:(1)缺乏细粒度的监督:潜在推理仅依赖于最终标签的反馈,提供稀疏的监督信号,难以有效指导多个隐藏推理步骤的优化。 (2)单一推理路径:潜在推理的确定性阻碍了对用户多样化兴趣和偏好的探索,从而限制了LLM的推荐能力。为了解决这些问题,我们提出了 \textbf{$LaRec$},这是一种高效的生成推荐框架,旨在释放 LLM 中潜在推理的潜力。 $LaRec$由两个核心阶段组成:首先,我们设计了Latent 预训练,通过步骤级对齐和过程方向对齐为潜在空间推理提供丰富的监督信号,从而赋予LLM潜在推理能力。其次,我们介绍个性化 RL 调优。具体来说,我们根据每个用户的历史兴趣构建个性化的高斯混合分布。通过在训练期间从该分布中随机采样不同的推理起点,我们引导 LLM 在潜在空间内遍历不同的推理路径,从而能够有效地探索用户的多方面兴趣。对多个数据集的实验表明,$LaRec$ 在相当的效率下显着优于现有基线。