论文

面向LLM智能体的准确高效长期记忆

Accurate and Efficient Long-Term Memory for LLM Agents

上下文与知识记忆Agent记忆

摘要

配备持久记忆的LLM智能体能回忆过去交互,但现有系统有两个局限:扁平、非结构化的存储丢失多跳与时序推理所需的关系上下文;依赖昂贵的基于LLM的分类使其难以在延迟敏感部署中实用。缺乏用新信息校验既有知识的机制时,这些系统会默默积累矛盾。我们提出MOSAIC(信息收集的记忆组织结构化智能体),一个结构化、冲突感知的LLM智能体长期记忆框架,在准确率与效率上都显著更优。MOSAIC引入三项关键能力:(1)实体类型化图存储与语义分类,保留跨事件、人物与关系的关系结构,支持对会话历史的多跳与时序推理;(2)哈希加速的双路检索,以局部敏感哈希取代基于LLM的分类,实现近乎即时的查找且精度损失可忽略;(3)保存时的主动冲突检测,把新信息与既有图邻居交叉比对,对矛盾条目触发更新或删除。在LoCoMo(长对话QA)、HaluMem与一个新的临床指南错误累积测试上评估:MOSAIC在LoCoMo达89.35%准确率(超最佳基线27.21个百分点),取得最佳HaluMem-Medium抽取F1(86.77%)与HaluMem-Long抽取F1(85.84%)、Medium与Long的最佳QA正确率(73.10%、70.75%),检出66%的注入事实冲突——为最佳基线(14%)的4.7倍——同时哈希加速检索把平均查询延迟保持在每题0.58秒。

面向LLM智能体的准确高效长期记忆:论文配图
图 1:MOSAIC 系统架构。对话通过实体提取和 LLM 或局部敏感哈希的双路径分类进行处理。实体使用先决条件和关联边填充类型化内存图。在摄取时,冲突检测模块根据图邻居验证新事实,在存储之前解决矛盾。社区感知检索可实现图结构上的多跳推理。