论文

超越对话时间:面向个性化LLM代理的时序语义记忆

Beyond Dialogue Time: Temporal Semantic Memory for Personalized LLM Agents

上下文与知识记忆Agent记忆

摘要

记忆让大语言模型(LLM)代理能够感知、存储并利用过往对话中的信息,这对个性化至关重要。然而,现有方法未能在两个方面恰当建模记忆的时间维度:1)时间不准:记忆按对话时间而非实际发生时间组织;2)时间碎片化:现有方法聚焦点状记忆,丢失了刻画持续状态与演化模式的时段性信息。针对这些局限,我们提出Temporal Semantic Memory(TSM),一个为点状记忆建模语义时间并支持时段性记忆构建与利用的记忆框架。在记忆构建阶段,它先构建语义时间线而非对话时间线,随后把时间连续且语义相关的信息整合为时段性记忆。在记忆利用阶段,它把查询的时间意图叠加到语义时间线上,从而检索时间上合适的时段性记忆,提供时间有效、时长一致的上下文以支持回复生成。在LongMemEval与LoCoMo上的实验表明,TSM持续优于现有方法,准确率最高获得12.2%的绝对提升,证明了所提方法的有效性。

超越对话时间:面向个性化LLM代理的时序语义记忆
图2:TSM 的整体框架。记忆巩固(memory consolidation)从情景记忆中构建时序知识图谱,随后将其巩固为具备时间感知的持续性记忆。记忆利用(memory utilization)通过施加语义-时间约束来检索准确的记忆。