论文
因果内存策略：通过干预检索使内存效用可识别
Causal Memory Policy: Making Memory Utility Identifiable by Intervening on Retrieval
摘要
记忆增强的大语言模型必须决定保留哪些记忆，而最近的系统通过估计每个记忆对任务性能的影响来做到这一点。然而，这些估计完全依赖于检索到的记忆。当记忆永远无法被检索时，商店级别的干预会产生相同的结果，而其效用则无法确定。这是检索级别的积极性违规，对于仅检查内存操作的诊断来说是不可见的。我们引入因果记忆策略（CMP），这是一种因果框架，通过干预检索本身来恢复识别，为已知倾向采样的记忆保留固定数量的上下文槽。 CMP 通过平衡分配设计下的自归一化逆倾向权重来估计记忆效用。我们通过检索证明了记忆效用的因果分解、估计器的无偏性和精确方差以及不可逆操作下的最优决策规则。根据经验，LongMemEval 上 54% 的所需内存识别失败，LoCoMo 上 67% 的所需内存识别失败，并且该故障在已部署的内存系统中持续存在。 CMP 将必需内存和非必需内存之间的区分度从 0.54 AUC 提高到 0.66。最后，我们表明，仅识别的内存效用不足以做出保留决策：在估计的查询上，每个查询效用达到 0.78 AUC，但保留策略没有可用的聚合来预测未见过的查询的内存值。代码可在以下位置获取：https://anonymous.4open.science/r/cmp-release-D0C3/.