论文

JustMem:为长期对话提供足够的内存访问

JustMem: Just-Enough Memory Access for Long-Term Conversations

摘要

有效的长期会话记忆需要检索足够的证据,而不是不加区别地扩展呈现给语言模型的上下文。这是具有挑战性的,因为相关证据可能分布在多个会话中,而压缩可能会丢弃回答所需的细节。因此,不同的查询需要不同形式的内存访问。为了满足这些需求,我们沿着两个维度制定记忆访问:发现广度,它控制搜索证据的范围;以及阅读保真度,它控制证据是以紧凑形式阅读还是从原始对话中恢复。基于这个公式,我们引入了 JustMem,它将对话历史存储为紧凑的原子存储器,并根据每个查询沿这两个维度调整内存访问。具体来说,LOOKUP 处理本地证据,COMPOSE 扩大分布式证据的发现范围,而 REPLAY 则提高保真度敏感证据的阅读保真度。在 LoCoMo 和 LongMemEval-S 上,JustMem 在比较的记忆系统中实现了最高的平均准确度和检索召回率,同时使用更少的生成模型标记进行记忆构建和推理。