论文

记住决策而非描述:智能体记忆的率失真框架

Remember the Decision, Not the Description: A Rate-Distortion Framework for Agent Memory

上下文与知识记忆Agent记忆

摘要

长程语言智能体必须在有限的运行时记忆下运行,而现有记忆机制往往围绕相关性、显著性或摘要质量等描述性标准来组织经验。然而对智能体而言,记忆的价值不在于忠实描述过去,而在于在固定预算下保留那些必须保持区分的历史差异,以支撑良好决策。我们将其归结为一个以决策为中心的率失真问题,用压缩所导致的可达决策质量损失来衡量记忆质量。这给出了哪些内容可被安全遗忘的精确遗忘边界,以及刻画记忆预算与决策质量之间最优权衡的记忆失真前沿。受这一决策中心记忆观的启发,我们提出DeMem,一个在线记忆学习器,只有当数据证明合并状态会引发决策冲突时才细化其划分,并证明了近极小极大遗憾保证。在受控合成诊断与长程会话基准上,DeMem在相同运行时预算下均取得一致增益,支持了“记忆应保留对决策重要的区分,而非描述”这一原则。

记住决策而非描述:智能体记忆的率失真框架:论文配图
图2:合成实验结果:(a)解耦老虎机的累计遗憾;(b)不同K下的记忆-失真权衡;(c)性能汇总。