论文
治理LLM智能体中演化的记忆:风险、机制及稳定性与安全治理记忆(SSGM)框架
Governing Evolving Memory in LLM Agents: Risks, Mechanisms, and the Stability and Safety Governed Memory (SSGM) Framework
摘要
长期记忆已成为自主大语言模型(LLM)智能体的基础组件,支撑持续适应、终身多模态学习和复杂推理。然而,随着记忆系统从静态检索数据库转变为动态的智能体机制,记忆治理、语义漂移和隐私漏洞方面的关键隐忧浮出水面。近期的综述大量聚焦于记忆检索效率,却在很大程度上忽视了高度动态环境中记忆损坏的涌现风险。为应对这些新兴挑战,我们提出稳定性与安全治理记忆(Stability and Safety-Governed Memory,SSGM)框架,一个概念性的治理架构。SSGM通过在任何记忆固化(consolidation)之前强制执行一致性验证、时间衰减建模和动态访问控制,将记忆演化与执行解耦。通过形式化分析和架构分解,我们展示了SSGM如何缓解拓扑引发的知识泄露(敏感上下文被固化进长期存储),并帮助防止语义漂移(知识因迭代摘要而退化)。最终,这项工作提供了记忆损坏风险的综合分类体系,并为部署安全、持久且可靠的智能体记忆系统确立了一个稳健的治理范式。
