论文

在哪里查看和使用什么:检索-定位-生成以实现长期会话记忆问答

Where to Look and What to Use: Retrieve-Localize-Generate for Long-Term Conversational Memory Question Answering

摘要

检索增强生成(RAG)使大语言模型(LLM)能够通过访问外部知识来回答问题,并已广泛应用于长期会话记忆问答。然而,现有方法面临两个关键挑战:(1)分散在时间上遥远的会话中的碎片证据,以及(2)检索到的会话中的嘈杂内容会触发中间丢失效应。为了应对这些挑战,我们提出了 MemLoc,这是一个用于长期会话记忆 QA 的统一检索-定位-生成框架。为了进行检索,MemLoc 将每个会话分解为多粒度记忆单元,并通过具有基于熵的粒度选择的内部记忆图执行查询路由。它通过跨记忆图进一步对跨会话语义和时间依赖性进行建模,从而能够从粗到细检索前 K 个相关记忆候选者。对于定位,我们引入了一种经过自反射提示策略优化(SHPO)训练的基于推理的证据定位器,该定位器通过提取记忆单元内与查询相关的片段来抑制噪声并对候选者进行重新排序以消除冗余来执行渐进式细化,从而生成具有轻量级位置 ID 的紧凑证据集。在生成过程中,这些 ID 充当精确的证据定位信号,引导 LLM 到正确的记忆位置,减轻中间丢失效应,同时保留原始上下文完整性。对四个基准的大量实验表明,MemLoc 在保持效率的同时实现了最先进的检索精度和响应质量。我们的代码位于:https://github.com/Nikol-coder/MemLoc。