GenRec：Netflix 的 LLM 支持的推荐排序器

大语言模型 (LLM) 正在通过直接以自然语言对用户、内容和上下文进行更丰富的建模来重塑推荐系统。在 Netflix，我们正在通过 GenRec 探索这个方向，GenRec 是一个基于 LLM 支持的推荐排名器，构建在内部基础 LLM 之上。 GenRec 遵循两个阶段的框架：第一阶段将开源 LLM 应用于 Netflix 数据，加深对目录和会员行为的理解，同时平衡内容理解和指令遵循等功能。第二阶段使用推荐排名特定数据、标签和奖励信号对该基础模型进行后训练，旨在使排名者与业务需求和长期会员满意度保持一致。本文重点介绍第 2 阶段以及从具有数千个工程特征的传统判别排序器到由语言用户历史和上下文驱动的 LLM 支持的排序器的过渡。我们描述了我们的输入语言化和上下文工程、后训练 数据构建、奖励集成、模型架构以及基于仅预填充推理方法的成本受限的服务设计的设计。我们报告了大规模 A/B 测试的结果，将 GenRec 与当前的生产排序模型进行比较，其中我们表明，使用更少的第 2 阶段标记训练示例和输入信号训练的 GenRec 模型可以在离线和在线指标方面实现统计上显着的增益。我们讨论 LLM 支持的推荐器如何转变推荐范式：从特征工程到上下文工程，从定制架构到共享基础主干。我们还概述了在现实世界资源限制下为此类系统提供服务的实践经验教训。