用于高效多跳问答的俄罗斯套娃分层 RAG

用于多跳问答 (QA) 的检索增强生成 (RAG) 系统必须平衡检索质量和计算成本。此成本是在索引期间（通过使用昂贵的知识图 (KG) 或大语言模型 (LLM) 生成摘要）或在查询期间（通过迭代 LLM 驱动的检索）产生的。为了在保持检索质量的同时减少它，我们提出了 MatRAG，这是一个将 RAG 系统与 Matryoshka 表示学习 (MRL) 相结合的分层框架。 MatRAG 通过将聚类结构的语义层次结构与 MRL 的嵌套结构对齐来解决这两种成本。具体来说，它将文档语料库组织成粒度逐渐变粗的簇的有向无环图 (DAG)。每个级别都由较低的俄罗斯套娃维度进行索引。 MatRAG 将 DAG 的迭代、自上而下的遍历与实体驱动的机制配对，该机制控制跳跃预算并对候选者重新排名。我们根据七个代表性基线在三个标准多跳 QA 基准上评估了 MatRAG。 MatRAG 在检索质量方面优于其最强的竞争对手；此外，它通过避免 KG 构建和基于 LLM 的汇总来降低索引成本，并通过维度感知相似性降低查询时间成本。