RPTune：LLM 目录搜索的学习上下文管理

对于目录适合长上下文 LLM 的小型商业企业 (SMB) 来说，完整目录提示为主要为拥有数百万商品的大型市场设计的多阶段检索提供了一种引人注目的替代方案。然而，将完整目录拟合到上下文窗口中并不能确保模型可以有效地使用它，因为 LLM 不会统一利用长上下文。因此，我们通过两个互补的问题来研究上下文目录搜索：（1）如何向大语言模型策划和展示目录，以及（2）如何使大语言模型适应策划上下文中的产品选择。我们提出了 RPTune，这是一个端到端框架，它使用自动生成的基于目录的监督将学习目录管理与大语言模型后期训练结合起来。编码器重组器策展人在下游 LLM 反馈的指导下订购和修剪产品，而由此产生的策划目录反过来又通过上下文相关的奖励提高了 LLM 后期训练的有效性。我们对跨越不同零售行业的 7 个真实商家评估 RPTune，每个商家使用 100 个复杂的对话查询。 RPTune 持续提高专有大语言模型和开放权重大语言模型的搜索准确性，上下文管理带来高达 31.4 个百分点的收益，后训练平均进一步增加 10.3 个百分点。