论文

迈向代理内存的正式定义:基础、跨度、最优性和顺序内存问题

Towards a Formal Definition of Agent Memory: Basis, Span, Optimality, and the Sequential Memory Problem

上下文与知识记忆Agent记忆

摘要

尽管在大型模型代理中广泛部署了内存,但对于内存是什么或何时是最佳内存,还没有统一的正式说明。本文朝着这个目标迈出了第一步。中心思想是记忆是基础,知识是其跨度,可回答性是覆盖问题:代理存储从材料中提取的事件;生成算子将任何事件集转化为它所需要的知识;当跨度中的某个单个项目覆盖查询时,查询就可以准确回答。最佳内存是预期覆盖范围的容量受限最大化,其值追踪效用——容量边界,这是比较内存系统的通用标准。接下来,我们考虑内存中的噪声,并讨论其下的覆盖率与精度:内存可能存储错误的声明,因此写入策略必须推断其存储内容的真实性。与通过持续经验不断形成的生物记忆进行类比,我们将连续代理记忆问题形式化为涵盖多个级别的顺序 MDP,其中记忆是状态,写入是动作,查询时确定的效用是驱动学习的延迟奖励。为了使框架具体化,我们将其实例化为荷马的\emph{奥德赛},将边界、压缩区和覆盖范围的发散从精确化为具体的数字。最后,我们将现有系统置于框架内,使“记忆有多好”可测量,并将构建和学习代理记忆的开放问题重新定义为具体的研究问题。