论文
持续型大语言模型智能体中的受控记忆干扰
Controlled Memory Interference in Continual LLM Agents
摘要
长期记忆使AI智能体能够跨会话保持连续性、个性化行为,并通过积累的经验不断演化。然而,记忆演化并非单纯的信息存储累积:新经验可能强化、修订或干扰已有记忆状态。现有系统主要强调记忆构建与基于相关性的检索,但多条记忆可能在同时保持相关的同时,在状态、时间有效性或权威性上各不相同。我们提出受控记忆干扰(Controlled Memory Interference, CMI),一个用于研究Agent记忆在不同记忆关系下如何演化的受控诊断与数据生成框架。在受控记忆演化中,良性累积的影响有限,而关系特定的干扰会急剧抑制更新可塑性且几乎不带来稳定性收益,其途径或是阻断目标记忆的暴露,或是破坏其下游使用。词法(Lexical)检索与稠密(Dense)检索表现出不同的干扰路径,而投毒对更新权威线索的敏感度高于仅对时间新近度的敏感度。除诊断之外,CMI还为干扰感知的记忆学习提供有针对性的样本,在保持原有记忆任务性能的同时,改善对有效更新与诱发干扰的记忆之间的区分。这些发现表明,记忆演化不仅取决于记忆规模,还取决于积累经验之间的交互。更广泛地看,记忆干扰成为构建可靠的持续Agent记忆系统的重要因素。
