具有意图感知检索和语义保留分块功能的高效 RAG

对大语言模型（LLM）强大的指令跟随和推理能力的需求推动了检索增强生成（RAG）的快速发展。 RAG 系统通过从外部数据库检索查询适合补充知识块来协助 LLM 生成。然而，传统的 RAG 系统由于意图不可知的检索和信息碎片两个因素而面临信息不足的问题。我们的工作提出了一个名为 InSemRAG 的 RAG 框架，它通过迭代检索和检查机制解决这些挑战，该机制具有两个支持模块：意图感知 检索器 (IAR) 和语义保留分块 (SPC)。 IAR 实现了一种动态混合检索方法，根据查询意图自适应地对检索通道进行加权，而 SPC 对损坏的证据块进行检测和修复以保持语义完整性。为了减轻迭代机制带来的计算延迟，我们利用小语言模型（SLM）。跨多个基准数据集的广泛实验一致证明了我们的方法相对于最近最先进的 RAG 机制的竞争力。特别是，我们的方法在多跳和证据敏感任务上取得了显着的进步，HotPotQA 上的 F1 提高了 2.65 点，FEVER 上的准确度提高了 1.5 点。我们的方法还利用 SLM 实现了与 Multi-Hop RAG 相比具有竞争力的性能，延迟降低了 4.32$\times$。