论文
CMT-RAG:多轮多跳 RAG 的互补内存跟踪
CMT-RAG: Complementary Memory Traces for Multi-turn Multi-hop RAG
摘要
多轮信息寻求对话需要多跳推理和跨轮的远程依赖性跟踪。然而,现有的 RAG 系统通常将会话记忆表示为原始对话历史、重写的查询或非结构化摘要,这使得很难恢复后续查询所需的特定先前推理步骤和证据。我们的主要见解是通过将对话上下文表示为子问题级推理轨迹来使对话记忆与检索保持一致。基于这一见解,我们引入了 MuMu-QA(具有显式跨轮子问题依赖注释的多轮多跳 RAG 基准)和 CMT-RAG(此设置的补充内存框架)。在每一回合,CMT-RAG 都会使用状态空间跟踪生成器(其循环状态充当运行时内存)来合并最近的对话上下文,并将当前查询分解为结构化跟踪草稿,其中包含面向检索的子问题和对早期跟踪的依赖关系。然后,它以检索到的证据为这些草稿奠定基础,并将它们作为持久记忆痕迹存储在会话级 DAG 中,从而使未来能够有效地恢复相关的先前推理和证据。 MuMu-QA 和语料库级 RAG 基准的实验表明,CMT-RAG 在答案准确性方面始终优于五类 RAG 基准。