论文

ISO-RAG:检索增强生成中的等周噪声控制

ISO-RAG: Isoperimetric Noise Control for Retrieval-Augmented Generation

上下文与知识检索增强

摘要

检索增强生成 (RAG) 减轻了大语言模型 (LLM) 的幻觉,但传统的密集检索难以应对多跳问答 (QA) 的复杂推理路径。基于图的 RAG 可以捕获多步关系,但由于全局图遍历的噪声,会出现严重的语义漂移和高在线延迟。因此,我们提出了 ISO-RAG(ISOperimetric Retrieval Retrieval-Augmented Generation),一种几何感知的 RAG 框架。通过将底层知识图投影到双曲庞加莱球中来预先计算节点等周轮廓,ISO-RAG 在检索过程中修剪虚假边缘,将搜索空间限制在严格局部的子图内。这种拓扑净化调节驱动检索过程的个性化 PageRank (PPR) 扩散,确保精确且低延迟的收敛。多跳 QA 基准实验表明,ISO-RAG 的检索召回平均绝对增益为 10.0%,下游精确匹配平均绝对增益为 4.3%,优于最先进的基线,从根本上消除了全局遍历的延迟瓶颈,实现了卓越的准确率与效率的权衡。我们的源代码可在 https://github.com/ZaiizaiZHANG/ISO-RAG 获取。

ISO-RAG:检索增强生成中的等周噪声控制:论文配图
图1:区域援助小组模式的概念比较。顶端:基于常规图形的RAG受到语义漂移的影响:不受限制的传播使得检索信号能够渗漏到无关的噪音(蓝节点)和误导提示(红节点)。底部:ISO-RAG利用双曲等级和一个等光度控制机制(剪刀)来明确切断这些错误的分支。这种地形学干预分离了纯粹的推理路径(绿色节点)。