论文
BAGEL：由大模型相关性评分引导的高斯过程贝叶斯主动检索
Bayesian Active Learning with Gaussian Processes Guided by LLM Relevance Scoring for Dense Passage Retrieval
摘要
大语言模型具备较强的零样本相关性判断能力，但计算成本较高，因此段落检索可被视为预算约束下的全局优化问题。现有方法被动依赖第一阶段稠密检索器，既可能遗漏语义上分离的相关段落簇，也无法把相关性信号传播到更广语料。我们提出BAGEL，即大模型相关性评分引导的高斯过程贝叶斯主动学习框架，将稀疏的大模型评分传播到嵌入空间，以指导全局探索。方法为每个查询建立高斯过程，依据大模型评分建模整个嵌入空间中的多峰相关性分布，再迭代选择待评分段落，平衡高置信区域的利用与不确定区域的探索。四个基准数据集和两个大模型骨干上的实验表明，BAGEL能探索复杂相关性分布，并在相同大模型预算下于全部四个数据集上优于大模型重排序方法。