论文
REAL:用于 LLM 长期内存管理的推理增强图框架
REAL: A Reasoning-Enhanced Graph Framework for Long-Term Memory Management of LLMs
摘要
人们越来越期望 大语言模型 (LLM) 能够与用户进行长期交互。然而,由于其有限的上下文窗口,LLM 无法保留所有过去的交互,这使得长期内存管理对于存储、更新和检索超出上下文限制的历史信息至关重要。尽管最近的记忆系统试图通过在外部存储历史信息来解决这个问题,但现有的方法受到三个关键限制:基于平面文本的记忆组织无法捕获记忆之间的明确关系,结构化记忆系统经常破坏性地覆盖不断变化的事实,并且当证据不完整时,当前的检索机制仍然与查询无关并且是被动的。 REAL 将长期会话记忆构建为时间和置信感知的定向属性图,其中每个原子事实都用实体、关系、有效时间间隔、置信度分数和探索意图标签表示。在内存构建过程中,REAL采用非破坏性的时间更新策略,保留并行的事实版本及其有效性区间,从而能够忠实地跟踪事实的演变。在检索过程中,REAL 锚定与查询相关的根实体,解耦其探索意图,并执行语义评估器引导的混合束搜索以提取紧凑的内存子图。它进一步结合了反事实推理来修复不可靠的检索状态并通过隐式逻辑关系恢复丢失的记忆证据。综合实验表明,与纯文本、基于图形和现有的记忆基线相比,REAL 显着提高了长期记忆性能,平均提高了 22.72%。