论文

生成和协作用户配置文件之间的路由:可控新颖性的服务时间门

Routing Between Generative and Collaborative User Profiles: A Serving-Time Gate for Controllable Novelty

上下文与知识上下文工程

摘要

大语言模型 (LLM) 支持丰富的语义用户配置文件进行推荐,但生成此类配置文件的成本更高,并且不一定需要统一部署。我们研究是否可以在生产推荐管道中选择性地调用 LLM 生成的配置文件。使用涵盖电影、电视节目和体育内容的真实世界流数据集,我们训练一个服务时间路由门,将每个用户分配给协作顺序推荐模型或由大语言模型生成的配置文件驱动的推荐模型。该门仅使用服务时间特征,并学习识别基于配置文件的路由可以增加 Novelty@10 同时保持排名相关性的用户。路由阈值控制将用户发送到生成模型的积极程度,从而暴露出可调整的新颖性-相关性权衡。在 NDCG 总体损失预算为 5% 的情况下,学习门将 Novelty@10 提高了 6.5%,同时路由了 12.5% 的用户,在相当的相关成本下优于简单的启发式和随机路由策略。这些结果表明,LLM 生成的用户配置文件可以作为协作推荐的可控补充,而非生成语义配置文件的结果表明,好处源于选择性路由,而不是单独的 LLM 生成。