DecisionRank对齐候选排序与教师反馈，训练单次前向重排模型

决策模型通过直接预测选择或分数来定位结构化任务，避免自回归解码延迟。然而，将生成式 LLM 的排名知识转移到决策模型仍然具有挑战性：教师通过文档 ID 序列的排名列表表达偏好，而学生则使用第一个 token 位置的分数来确定排名。为了弥补这一差距，我们引入了 DecisionRank，这是一种通过条目空间同策略蒸馏 (OPD) 训练的决策模型。条目空间 OPD 通过将文档分数排序为排名序列来构建学生的 rollout。生成式教师将生成的排名列表作为输入，并提供条件反馈来直接监督这些分数。与离线排名监督相结合，DecisionRank 在 TREC DL、BEIR 和 BRIGHT 等一般检索和推理密集型检索基准上均实现了最先进的性能。在四个基准中，条目空间 OPD 始终优于其他训练目标。即使在 1.7B 参数下，DecisionRank 在 TREC DL19--23 上也超过了其 27B 生成式教师模型。在 8B 时，它的性能优于对应的生成式列表排序模型，同时在 TREC DL 上运行快 24.5 倍，在 BRIGHT 上运行快 16.7 倍。