论文
掩盖还是缓解?解构查询重写对 RAG 中 检索器 偏差的影响
Masking or Mitigating? Deconstructing the Impact of Query Rewriting on Retriever Biases in RAG
摘要
检索增强生成 (RAG) 系统中的密集 检索器 表现出系统偏差,包括简洁性、位置、文字匹配和重复偏差,这些偏差可能会影响检索质量。查询重写技术现已成为 RAG 管道中的标准,但它们对这些偏差的影响仍未被探索。我们首次系统地研究了查询增强技术如何影响密集检索偏差,评估了六个 检索器 中的五种方法。我们的研究结果表明,基于 LLM 的简单重写实现了最强的总体偏差减少(54%),但在多个偏差组合的对抗条件下失败了。机制分析揭示了两种不同的机制:简单的重写通过增加分数方差来减少偏差,而伪文档生成方法通过来自偏差诱发特征的真正去相关来实现偏差的减少。然而,没有一种技术可以统一解决所有偏差,而且 检索器 的效果差异很大。我们的结果为根据特定偏差漏洞选择查询增强策略提供了实用指导。更广泛地说,我们建立了一个分类法,区分查询-文档交互偏差和文档编码偏差,澄清查询端干预对消除 RAG 系统偏差的限制。