论文
超越序列:为 LLM 推荐提炼结构化决策记忆
Beyond Sequences: Distilling Structured Decision Memory for LLM Recommendation
摘要
尽管在推荐系统中采用了大型语言模型(LLM),但流行的方法大多对单一类型的行为(例如,视图或购买)进行建模。即使在合并多种行为时,现有方法也会将异质行为扁平化为同质token序列,忽略它们不同的决策角色。这种扁平化无法捕捉复杂决策中的语义层次结构和上下文细微差别,例如价格和质量之间的权衡。因此,在涉及高度相似的项目的关键“困难选择”场景中,性能会下降。为了弥补这一差距,我们提出了 MARI(具有可解释性的记忆增强推荐),它将预测建立在明确的、结构化的决策证据之上。 MARI 维护着一个决策记忆库 (DMB),将用户过去的基本原理存档为结构化决策记忆 (SDM):目标、约束和权衡的简明记录。这些 SDM 是通过事后决策蒸馏从异构行为和用户生成的内容中离线生成的。通过检索相关的 SDM 来增强 LLM 推理,MARI 实现了可解释性和可扩展性,而无需处理长原始序列的高昂成本。大量实验表明,MARI 在标准下一项预测和新引入的困难选择预测任务方面显着优于最先进的基线,通过将内存构建与在线推理解耦而产生低延迟开销。定性分析揭示了对用户决策的可操作的、人类可读的见解,标志着向推理感知推荐系统迈出了具体的一步。