论文

LRanker:LLM 海量候选人排名

LRanker: LLM Ranker for Massive Candidates

模型推理测试时计算扩展

摘要

大语言模型 (LLM) 最近通过捕获语义相关性和适应不同领域表现出强大的排名潜力,但现有方法仍然受到有限的上下文长度和高计算成本的限制,限制了它们在候选池通常规模达到数百万的现实场景中的适用性。为了应对这一挑战,我们提出了 LRanker,一个专为大候选排名量身定制的框架。 LRanker 结合了候选聚合编码器和基于图的测试时间缩放机制,前者利用 K 均值聚类来显式建模全局候选信息,后者将候选划分为子集,生成多个查询嵌入,并通过集成过程将它们集成。通过聚合不同的嵌入而不是依赖于单一表示,该机制增强了鲁棒性和表现力,从而在大量候选池上实现更准确的排名。我们在 RBench 中使用不同候选尺度的三个场景的七个任务上评估 LRanker。实验结果表明,LRanker 在 RBench-Small 场景中实现了超过 30% 的增益,在 RBench-Large 场景中 MRR 提高了 3-9%,并在超过 680 万候选的 RBench-Ultra 场景中保持了可扩展性,提高了 20-30%。消融研究进一步验证了其关键成分的有效性。总之,这些发现证明了 LRanker 对于大规模候选排名的稳健性、可扩展性和有效性。