RecGPT-V3 技术报告

大语言模型 (LLM) 正在将推荐系统从匹配历史行为中的共现模式转变为推理驱动其的意图。 RecGPT-V1 以用户理解为中心，在淘宝上开创了这种范式，RecGPT-V2 通过协调多智能体推理对其进行了扩展；两者都部署在生产中，并在用户体验和商业成果方面取得了持续的收益。然而，大规模运行 RecGPT 面临三个挑战：（1）无状态行为建模，每个请求都会重新处理完整的用户历史记录，浪费计算并丢弃先前的分析； （2）标签到商品的信息瓶颈，自然语言标签在用户理解和商品落地之间形成了有损通道； (3) 低效的显式推理，其冗长的思维链会导致难以维持的延迟和计算开销。我们推出了 RecGPT-V3，这是一种有状态的混合模式推荐器，可以通过自然语言进行推理以获取开放世界知识，并通过语义 ID (SID) 进行具体项目基础。内存中心维护结构化、不断发展的用户内存，将长期行为提炼为压缩单元，从而将用户建模计算量减少 55.8%。混合模式基础模型允许 LLM 联合推理文本标签和 SID，从而打开进入项目空间的高带宽通道。潜在意图推理将冗长的基本原理内化为紧凑的可学习的潜在标记，这些标记仍然可解码为可读的解释，从而将输出标记成本降低 200 倍。 RecGPT-V3部署在淘宝“猜你喜欢”Feed中，在大规模在线A/B测试中取得了一致的收益：IPV+1.28%、CTR+1.00%、TC+1.97%、GMV+3.97%，同时端到端服务资源消耗减少了52.4%。