论文

支持路径级定位与重写的LLM Agent分层图记忆

Hierarchical Graph Memory for LLM Agents with Path-level Localization and Rewrite

上下文与知识记忆Agent记忆

摘要

长期推理的代理需要一个可以高效和有效地更新的时间内存,因为新的事实和外部反馈继续到来。最近,图记忆被采用以提供多跳检索和推理中的结构组织。然而,现有的方法将所有记忆存储在一个平坦的图中,并且累积的历史记忆在检索期间引入无关的上下文,增加证据选择的成本。此外,它们通常独立更新记忆单元,需要重复地单元级重写来覆盖相关的更改。为了解决这些问题,我们提出HiGram,这是一种进化层次图记忆框架,具有路径级别的定位和重写。具体来说,我们首先提出了一个层次化的图记忆,将记忆组织成由上层节点和MemoryUnits组成的粗粒度架构,从而在检索过程中减少无关信息的数量。我们进一步提出了基于MicroGraph的路径级别定位,利用查询和更新条件下的MicroGraph来识别支持子图和证据路径,在重写之前。最后,我们提出了一个协调的重写方法,共同修订单元内的记忆和单元间的依赖关系,使局部证据路径中的有效依赖结构更新。在长期对话问题回答基准和冲突-aware记忆评估基准上的实验结果表明,我们的方法在答案质量、令牌效率等方面优于基线。此外,在动态、静态和条件冲突的情况下,我们的方法提高了答案准确性和查询验证的证据选择能力。

支持路径级定位与重写的LLM Agent分层图记忆:论文配图
图 1:HiGram 概述。我们的方法将内存组织成分层图结构,其中上层节点连接存储事实信息的 MemoryUnit。然后,给定查询和更新,我们基于 MicroGraph 的路径级定位模块检索相关的内存 MicroGraph 来构建支持子图,并识别受影响的证据路径。最后,协调重写更新本地化证据路径内的 MemoryUnit 状态和依赖结构,以保持一致的内存更新。