论文

面向长文档RAG的不确定性感知混合检索

Uncertainty-Aware Hybrid Retrieval for Long-Document RAG

上下文与知识检索增强

摘要

检索增强生成(RAG)主要取决于检索证据的质量和粒度。大型检索单元保留上下文,但经常引入不相关的内容,这可能会淡化答案证据并恶化长上下文利用率。细粒度单元更加紧凑,但它们可能难以可靠地检索,因为短块可能缺乏匹配查询所需的语义、词汇或桥接线索。我们提出了不确定性感知多粒度 RAG (UMG-RAG),这是一种免训练的混合检索框架,它将块粒度视为特定于查询的可靠性估计。 UMG-RAG 没有训练新的检索器或修改生成器,而是使用现有的密集和稀疏检索器作为跨多个块粒度的补充专家。对于每个查询,它将每个专家粒度评分列表转换为证据分布,根据分布熵估计可靠性,并根据查询特定的语义、词汇和粒度置信度融合候选者。我们进一步介绍了 UMGP-RAG,一种父提升变体,它使用细粒度命中来定位相关证据,同时返回更广泛的非冗余父块以实现局部一致性。问答基准实验表明,不确定性感知融合和父级提升可以提高生成质量,同时保持轻量级、即插即用的检索管道。

面向长文档RAG的不确定性感知混合检索:论文配图
图 1:RAG 中检索粒度权衡的动机。粗略的检索单元保留了文档级上下文,但可能会引入不相关的内容,从而淡化带有答案的证据。细粒度的单元更加紧凑,但它们可能缺乏足够的语义或词汇线索,导致检索器错过确切的本地证据。