论文

结构引导检索-事实查询的增强生成

Structure Guided Retrieval-Augmented Generation for Factual Queries

上下文与知识检索增强

摘要

检索增强生成(RAG)已被提出来减轻 大语言模型(LLM)中的幻觉,其中生成的输出实际上可能不正确。然而,现有的RAG方法主要依靠向量相似度进行检索,这容易产生语义噪声,并且无法确保生成的响应完全满足事实查询指定的复杂条件,常常导致错误的答案。为了应对这一挑战,我们引入了一个新的研究问题,称为精确检索问题(ERP)。据我们所知,这是第一个将结构信息显式合并到 RAG 中的问题表述,用于满足所有查询条件的事实问题。对于这个新问题,我们提出了结构引导检索增强生成(SG-RAG),它将检索过程建模为基于嵌入的子图匹配任务,并使用检索到的拓扑结构来指导 LLM 生成满足所有指定查询条件的答案。为了促进 ERP 的评估,我们构建并公开发布了精确检索问答(ERQA),这是一个包含 120000 个面向事实的 QA 对的大型数据集,每个问答对都涉及复杂的条件,跨越 20 个不同的领域。实验结果表明,SG-RAG 显着优于 ERQA 的强大基线,在所有评估指标上实现了从 20.68 点到 50.88 点的绝对改进,同时保持了合理的计算开销。