论文
重现 LightMem:Naive RAG 对于内存管理同样有效
Reproducing LightMem: Naive RAG Is Just as Good for Memory Management
摘要
长期会话代理需要访问早期交互中的信息,例如用户的偏好、过去的请求或之前提到的事实。随着对话的增长,重复提供完整的对话历史记录可能会很昂贵,因此许多记忆方法将过去的交互转化为可以在需要时检索的紧凑条目。 LightMem 是一种最新的轻量级内存管理方法,它具有很强的有效性,同时保持相对较低的构建成本。然而,它仍然依赖于单独构建的内存表示,并且仅使用一个 检索器 进行评估,因此尚不清楚其结果对 检索器 选择有多敏感以及内存构建是否会丢弃与答案相关的信息。在本研究中,我们重现了 LightMem 并将其与 Naive RAG 进行比较,Naive RAG 直接从原始用户回合中检索。我们恢复了 LightMem 的主要配置趋势,但发现 检索器 选择是性能变化的主要来源:仅更改固定 LightMem 存储上的 检索器 会将答案准确性从 58.1% 更改为 75.5%。建构记忆也并不总是优于原始记忆检索。 Naive RAG 通常在匹配的检索深度下表现更好,而 LightMem 主要在严格回答下表现更好 - 词元预算。 Oracle 评估进一步表明,内存构造删除了一些与答案相关的信息。总体而言,与 Naive RAG 相比,LightMem 提供了上下文效率权衡,而不是总体优势。它的值取决于 检索器 和可用的 词元预算,激励未来在检索、重新排序、查询公式及其与原始和构造的内存表示的交互方面的工作。