论文
当 LLM 推断的用户上下文为制作流媒体推荐增加价值时
When LLM-Inferred User Context Adds Value in Production Streaming Recommendation
摘要
推荐系统中的上下文信息正在从静态的预定义变量转向从行为推断的潜在表示。大语言模型通过将非结构化交互历史呈现为自然语言摘要来支持这种转变,从而生成可以编码并代替聚合配置文件使用的主题用户上下文。这种生成的配置文件优于聚合嵌入的条件主要在域级别得到了有限的表征。我们在生产流媒体平台上评估语义用户分析策略,并根据完整目录进行排名。评估涵盖跨表示类型(聚合或大语言模型生成)与上下文范围(整体历史或注意力融合的短期和长期上下文)的 2*2 设计空间。两种表示类型的相对顺序取决于用户的消费方式。在习惯性消费下,总体配置文件始终更强,这代表了大约五分之四的人口,而大语言模型生成的配置文件对于探索性用户来说更强,这些用户的后续交互在语义上与他们的历史有所不同。我们还观察到大语言模型生成的个人资料中存在流行吸引子效应,该效应适度提高了列表内的多样性,同时大幅降低了目录覆盖率并减少了新颖性。这些结果表明,上下文感知系统可以从推断的消费模式中选择一种分析策略,而不是将一种表示应用于所有用户。