HyperReCo：使用超图神经网络检索和连接证据以进行 LLM 多跳推理

大语言模型 (LLM) 已显示出强大的功能，检索增强生成 (RAG) 通过检索分布在文档中的证据来支持复杂的多跳推理。基于图的方法利用证据之间的联系，基于超图的检索进一步保留文档内的高阶实体关联，并通过共享实体连接文档。然而，现有的超图检索器通常依赖于预定义的结构扩展或扩散，这可能会错过识别相关证据所需的依赖于查询的交互。他们还隐式地保留了检索到的证据之间的联系，要求LLM在推理之前重建这些联系。因此，我们提出了 HyperReCo，一个用于检索证据并将其与超图神经网络（HyperGNN）连接的框架。我们将每个文档表示为其提取的实体上的超边，并使用连接超边的共享实体。通过超图消息传递以及对文档和实体的联合监督，HyperGNN 学习依赖于查询的交互来检索补充证据。我们进一步介绍了梯度引导超路径解码（GGHD），它使用梯度归因来解释学习到的交互，并将其转换为显式超路径，帮助LLM结合互补事实进行多跳推理。六个基准测试的实验表明，HyperReCo 在所有三个多跳 QA 数据集上实现了所有比较方法中最好的检索性能，以及强大的下游 QA 性能。案例研究和进一步分析证明了解码超路径在连接检索到的证据方面的实用性。