论文
面向LLM智能体的准确高效长期记忆
Accurate and Efficient Long-Term Memory for LLM Agents
摘要
配备持久记忆的LLM智能体能回忆过去交互,但现有系统有两个局限:扁平、非结构化的存储丢失多跳与时序推理所需的关系上下文;依赖昂贵的基于LLM的分类使其难以在延迟敏感部署中实用。缺乏用新信息校验既有知识的机制时,这些系统会默默积累矛盾。我们提出MOSAIC(信息收集的记忆组织结构化智能体),一个结构化、冲突感知的LLM智能体长期记忆框架,在准确率与效率上都显著更优。MOSAIC引入三项关键能力:(1)实体类型化图存储与语义分类,保留跨事件、人物与关系的关系结构,支持对会话历史的多跳与时序推理;(2)哈希加速的双路检索,以局部敏感哈希取代基于LLM的分类,实现近乎即时的查找且精度损失可忽略;(3)保存时的主动冲突检测,把新信息与既有图邻居交叉比对,对矛盾条目触发更新或删除。在LoCoMo(长对话QA)、HaluMem与一个新的临床指南错误累积测试上评估:MOSAIC在LoCoMo达89.35%准确率(超最佳基线27.21个百分点),取得最佳HaluMem-Medium抽取F1(86.77%)与HaluMem-Long抽取F1(85.84%)、Medium与Long的最佳QA正确率(73.10%、70.75%),检出66%的注入事实冲突——为最佳基线(14%)的4.7倍——同时哈希加速检索把平均查询延迟保持在每题0.58秒。
