SCoRD：推荐检索与重排的持续协同蒸馏

推荐系统越来越多地采用两阶段管道，其中基于 ID 的 检索器 检索候选者，基于 LLM 的重新排序器完善其排名。为了提高检索质量，通常使用 reranker-to-检索器 蒸馏 将 reranker 的知识转移到 检索器。然而，对于实际部署，该管道必须不断适应不断变化的兴趣和传入的交互。一个简单的解决方案是重复更新 LLM 重新排序器并提取其最新知识，但这会产生高昂的成本。单独更新 检索器 更便宜，但其有限的容量使得稀疏数据的适应变得困难。我们提出了 SCoRD，一个连续的 知识蒸馏 框架，用于非平稳数据流下基于 LLM 的重新排序管道。 SCoRD 引入了语义推理助手，该助手将 LLM 推断底层用户意图的能力提炼为可重用的意图级指导。它选择性地将低置信度序列上的重排序知识提取到 检索器，指导仅 检索器 更新而无需重复 LLM 推理，并将 检索器 派生的表示和意图漂移信号反馈给重排序器。对真实世界数据集的实验表明，SCoRD 能够实现有效且高效的 检索器-reranker 协同适应。