论文
CAMeR:LLM 代理中自适应内存保留的关键字门控混合激活
CAMeR: Keyword-Gated Hybrid Activation for Adaptive Memory Retention in LLM Agents
摘要
大语言模型(LLM)代理通过扩展对话进行操作,积累了大量信息,但现有的记忆系统要么不加区别地保留所有内容,要么应用统一的遗忘启发法,无法区分相关知识和不相关知识。我们提出了 CAMeR(上下文激活记忆强化),这是一种将关键字门控混合激活(联合符号(字级 Jaccard)和子符号(嵌入余弦)门控机制)与自适应权重动态相结合的记忆保留框架。 CAMeR 计算每个内存-查询对的混合相似度得分;超过阈值的记忆会得到强化,而所有记忆都会经历受控制的衰退。我们推出了 CAMeR-Bench,这是一个 76 内存、100 轮基准测试,跨越 8 个主题集群,具有分级激活频率,旨在测试现有基准测试(LoCoMO、LongMemEval)无法测试的自适应保留。在 CAMeR-Bench 上,与仅嵌入门控相比,CAMeR 的关键字门在高频内存和从未引用内存之间实现了 1.6$\times$ 的保留差距(剪刀差:0.039 与 0.024),而时间驱动的基线(Oblivion、SuperLocalMemory)在 100 轮中崩溃到接近于零的权重。与全上下文方法相比,CAMeR 的 top-5 检索节省了 83.2% 的标记(累积 39k 与 231k),同时产生可提高检索精度的权重信号。通过 8 个消融条件,我们确定关键字门(不可学习的衰减)是此规模的主要性能驱动因素。我们的研究结果表明,混合符号神经门控为 LLM 代理的自适应记忆保留提供了一种简单而有效的机制。