论文

治理LLM智能体中演化的记忆:风险、机制及稳定性与安全治理记忆(SSGM)框架

Governing Evolving Memory in LLM Agents: Risks, Mechanisms, and the Stability and Safety Governed Memory (SSGM) Framework

上下文与知识记忆Agent记忆

摘要

长期记忆已成为自主大语言模型(LLM)智能体的基础组件,支撑持续适应、终身多模态学习和复杂推理。然而,随着记忆系统从静态检索数据库转变为动态的智能体机制,记忆治理、语义漂移和隐私漏洞方面的关键隐忧浮出水面。近期的综述大量聚焦于记忆检索效率,却在很大程度上忽视了高度动态环境中记忆损坏的涌现风险。为应对这些新兴挑战,我们提出稳定性与安全治理记忆(Stability and Safety-Governed Memory,SSGM)框架,一个概念性的治理架构。SSGM通过在任何记忆固化(consolidation)之前强制执行一致性验证、时间衰减建模和动态访问控制,将记忆演化与执行解耦。通过形式化分析和架构分解,我们展示了SSGM如何缓解拓扑引发的知识泄露(敏感上下文被固化进长期存储),并帮助防止语义漂移(知识因迭代摘要而退化)。最终,这项工作提供了记忆损坏风险的综合分类体系,并为部署安全、持久且可靠的智能体记忆系统确立了一个稳健的治理范式。

治理LLM智能体中演化的记忆:风险、机制及稳定性与安全治理记忆(SSGM)框架:论文配图
图 4:SSGM 框架的概念架构,具有解耦的从左到右的处理管道。治理中间件拦截 LLM Agent 和 Memory Substrate 之间的内存交互。上层路径控制内存整合(写入验证),以确保逻辑一致性并减轻漂移,而下层路径则通过强制访问范围和时间相关性来管理内存检索(读过滤)。右侧双内存基板通过将可变活动图与不可变情景日志配对来进一步支持可逆协调。