论文

覆盖看不见的事物:检索增强一代的信息需求覆盖优化

Covering the Unseen: Information Demand Coverage Optimization for Retrieval-Augmented Generation

上下文与知识检索增强

摘要

检索增强生成(RAG)通常将上下文选择视为针对单个查询嵌入的排名块。对于复杂的查询,例如多跳或不明确的问题,这一假设不成立,其中 top-k 选择往往会过度覆盖一个语义方面,同时忽略关键的子问题。我们提出了 GeoRAG,它将上下文选择重新定义为信息需求覆盖优化。 GeoRAG 通过不同的子查询生成和反向验证加权构建多维需求分布,然后通过最小化该需求分布与所选集合的覆盖范围之间的 Sinkhorn-Wasserstein 距离来选择上下文。由此产生的需求加权设施选址目标是单调子模的,给出 $1-1/e$ 贪婪保证,我们用基于 Sinkhorn 的边际增益替代物来近似。该方法是无监督的、无需训练 且与检索无关。我们进一步表明,单点查询邻近评分器无法满足多模式需求,暴露了基于排名的选择的结构限制。在六个开放域 QA 基准测试中,GeoRAG 比 top-k 截断提高了精确匹配 (EM) +6.5 到 +7.5 点(在 HotpotQA 和 ASQA 上高达 +9.7),并且优于包括 MMR、DPP、BGE-Reranker、SMART-RAG 和 AdaGReS 在内的强基线,在上下文预算和子查询生成器中具有稳定的增益。