论文

保留还是整合?语言智能体记忆的预算依赖算子选择

Retain or Consolidate? Budget-Dependent Operator Selection for Language Agent Memory

上下文与知识记忆Agent记忆

摘要

语言智能体的跨交互能力依赖记忆。但大语言模型(LLM)有限的上下文窗口与推理成本约束了一次能使用的记忆量。现有系统主要遵循两种策略:记忆保留与记忆整合。保留原始记录、保持精确细节,但预算紧张时相关证据可能放不下;整合压缩并合并记录、提高每token的覆盖,但可能丢失查询关键细节。两种策略没有普适优劣。这引出两个核心问题:何时整合应替代保留?以及应选择哪种算子——合并(Merge)、抽象(Abstract)还是重写(Rewrite)?我们把这一决策形式化:把每个算子的效用分解为对保留所遗漏证据的覆盖效应,与对已放得下的原始证据的带符号替换效应;两者的平衡解释了为何首选动作随相对预算压力变化。我们以离线抽象安全(OAS)实现该机制——一个轻量学习器,从生成前特征估计动作效用并用留出的伤害校准。公开的LongMemEval与LoCoMo基准呈现同样的预算依赖模式:在LongMemEval上,紧张预算下整合把绝对准确率提升最多48%,宽松预算下保留更优;LoCoMo在更小预算处复现该交叉,与其更短的证据一致。在两个数据集上,必须压缩时跨笔记的抽象与合并通常优于局部重写。

保留还是整合?语言智能体记忆的预算依赖算子选择:论文配图
图 1:用于决定何时整合以及使用哪个操作员的 OAS 工作流程。根据生成前的功能,OAS 估计保留率和三个整合实用程序。当最佳预测增益超过裕度时(直接 OAS 为零,并根据校准 OAS 的保留问题进行校准),它会进行合并,否则会保留(何时);然后它应用最高效用的生成运算符(which)。