论文

当记忆变成权威:评测记忆整合中的授权约束丢失

When Memory Becomes Authority: Benchmarking Authority Collapse at the Memory Consolidation Boundary

上下文与知识记忆Agent记忆

摘要

持久记忆允许自进化的LLM代理在任务间适应,通过将异质交互历史整合为可重用的事实、偏好、观察和规则。然而,这种整合也隐含了一个授权边界:它决定了存储的信息在将来是否可以被用户事实、证言或持续指令所消费。我们识别出授权坍缩,即在存储过程中保留了声明,但删除了其授权使用所约束的源限制,导致存储的内存暗示了更大的授权,而其来源仅允许较小的授权。我们引入了AuthMem-Bench,这是一个控制性配对基准,固定焦点声明和下游任务,而仅改变其源授权。它评估写时坍缩、下游授权错误和自动授权保留。基于广泛使用的代理记忆系统和七种LLM后端,我们观察到在49个评估配置中,有48个配置中存在授权坍缩。在控制性动作导向评估中,缺乏授权元数据的坍缩内存导致平均未经授权的动作率高达50.3%。在端到端评估中,自动预测并持久化的授权标签将观察到的未经授权的动作率从16.9%降低到0.0%,而良性任务成功率几乎不变。这些发现表明,基于记忆的适应必须保留不仅所学的内容,还要在其中可能被重用的授权。