反对生成检索的案例：区分性语言模型有效 检索器

大语言模型 (LLM) 已成为推荐系统的强大资产。然而，在网络规模上将它们部署为生成推荐器或零样本排名器仍然受到高昂的计算开销和基础挑战的瓶颈。在本文中，我们通过采用 LLM 作为语义表示骨干而不是生成引擎来重振经典、高效的两塔检索架构。我们引入了一个 LLM 原生两塔框架，专为高吞吐量、大规模检索而设计。我们的架构引入了几项关键创新：用于联合用户项建模的共享 LLM 编码器、用于紧凑序列嵌入的句尾 (EOS) 词元池、跨数据集转移学习、来自强大交叉编码器教师的 知识蒸馏 以及用户塔内的潜在推理。对三个公共基准的广泛评估表明，交叉编码器架构优于当前最先进的 (SoTA) 模型，而高效的两塔学生实现了与 SoTA 相当的检索性能。此外，内部大规模生产系统的实验带来了显着的顶线检索改进，以及对模型陈旧的高弹性和卓越的数据扩展。我们的研究结果表明，当通过现代表示学习增强时，传统的两塔范式仍然是工业检索系统极具竞争力和实用的解决方案。