论文

使用和废弃:LLM 代理中记忆和学习的意图结构经验整合

Use and Disuse: Intent-Structured Experience Consolidation for Memory and Learning in LLM Agents

上下文与知识上下文工程记忆

摘要

大型语言模型代理从单任务执行到长期自主操作的演变凸显了将连续经验转化为可重用知识的关键挑战。为了解决这个问题,我们提出了 Hippocam,一种分层记忆和持续学习架构。海马卡姆从人类记忆的两个特征中汲取灵感:认知过程选择性地保留与当前目标相关的信息,而长期记忆则通过反复巩固逐渐形成。因此,Hippocam 将代理正在进行的工作构建为嵌套意图。活动上下文仍然以当前意图为中心,而已完成的意图则被合并到与任务相关的结果和后续工作所需的状态中,而不是继续推进其完整的工作细节。同时,递归前缀巩固机制反复巩固早期历史,导致长期未使用的经验变得越来越抽象。原始交互被保留,允许代理通过以下方式逐步恢复更细粒度的细节 一旦有足够的信息可用,就停止层次结构。至关重要的是,当过去的经验被回忆起来并重新融入到积极的工作中时,它们会与新的经验一起进行随后的巩固,从而得到加强、补充和更新。通过这种使用和废弃的记忆动态,Hippocam 将工作环境、长期记忆、知识积累和技能学习连接到一个不断发展的体验过程中。这使得代理能够通过自己的经验来学习和发展能力,而无需更新参数。