论文

基于 LLM 的推荐的分层潜在推理

Hierarchical Latent Reasoning for LLM-based Recommendation

模型推理推理策略与问题分解

摘要

大语言模型 (LLM) 通过利用其语义理解和上下文建模能力,显示出强大的推荐潜力。最近的研究进一步引入推理机制来改进用户偏好建模。然而,显式自然语言推理会产生大量推理开销,而现有的潜在推理方法主要集中在生成或验证中间状态,而其分层偏好角色和贡献的特征还不够充分。我们提出了 HiLaR,一种分层潜在推理框架,具有针对基于 LLM 的推荐的分层感知强化优化。 HiLaR 构建时间引导的分层用户偏好表示,将它们与多个 LLM 潜在推理状态对齐,并组织从广泛偏好到细粒度当前意图的推理过程。为了进一步优化推理轨迹,HiLaR 将最终推荐反馈与源自每个状态的边际目标似然增益的分层感知过程奖励相结合。对四个 Amazon 基准数据集的实验表明,HiLaR 通常优于强大的顺序、生成和基于 LLM 的推荐基线。消融和敏感性分析进一步验证了分层表示学习、潜在对齐和流程级优化的贡献。我们的代码可以在 https://github.com/hupeiyu21/HiLaR 中找到。