论文
T-Mem:预测记忆,而非档案
T-Mem: Memory That Anticipates, Not Archives
摘要
长期记忆对于会话代理在扩展对话中保持连贯性、履行之前多次会话中做出的承诺以及根据每个用户调整其行为至关重要。然而,当前 LLM 支持的长期会话记忆的可达性受到查询和存储内容(词汇和密集向量)之间相似性的限制。当查询和内存共享诸如措辞或命名实体(我们称之为描述性)之类的表面特征时,该方法是有效的。但它错过了另一类同样有价值的情况,其中查询和内存不共享表面特征,仅通过潜在语义弧(关联)联系在一起。在这种制度下,流行的长期记忆系统集体失败。覆盖另一半是助手第一次能够主动利用过去的对话作为语义资产。在记忆方面,这是认知科学所谓的情景未来思维的工程对应物:为未来需要找到的背景排练过去的经验。我们将这些称为写入时排练触发器。我们提出了 T-Mem,这是第一个涵盖描述性回忆和联想性回忆的长期会话记忆架构。在两种证据粒度(单一事实和全面交换)中的每一种,T-Mem 都会实例化一个描述性触发器系列和一个关联触发器系列,以便每个记忆都可以通过表面相似和相关性绑定查询来访问。作为实证验证,T-Mem 在 LoCoMo 和 LoCoMo-Plus 上均达到了最先进的水平。