论文

EMBER:通过预算证据保留为长程Agent提供高效记忆

EMBER: Efficient Memory via Budgeted Evidence Retention for Long-Horizon Agents

上下文与知识记忆Agent记忆

摘要

长视野代理可以存档大量历史记录,但未来的答案仍然会产生检索、重读和上下文成本。当保留的记忆错过与答案相关的证据时,系统必须返回原始历史的较大部分。我们研究预算证据的生存:在知道查询之前,应该保留哪些源证据,以便在固定的保留源证据 词元预算 下保持可恢复和可用?我们将此设置实例化为预算预查询保留,其中内存在摄取期间写入,然后在不访问完整原始流的情况下读取。我们引入了 EMBER,这是一种学习保留策略,它构建了一个紧凑的、有来源支持的证据状态。 EMBER 存储证据胶囊:逐字源摘录与检索密钥和更新元数据配对,保留基础和读取时访问。查询后结果反馈训练作者在摄取-检索-答案链中保留证据。在 LongMemEval-RR(我们的 LongMemEval 衍生的保留证据协议)上,EMBER-14B 在 8192 个词元保留证据比较点达到 0.3017 F1,而最强的非 EMBER 预算基线为 0.1765。在保留的源证据预算中,EMBER 改进了 F1、保留回忆和阅读回忆,这表明长视野记忆依赖于在预算内保留证据,而不是重读更大的历史。