SCM：大语言模型 的睡眠巩固记忆与算法遗忘

我们提出了 SCM（睡眠巩固记忆），这是 大语言模型 记忆架构的研究预览，它利用神经科学原理来解决当前系统的基本限制：缺乏持久的、结构化的和生物学上合理的记忆。现有的方法依赖于截断上下文窗口、无限制地增长矢量数据库或缺乏整合和遗忘机制的分层存储系统。 SCM 实现了受人类记忆启发的五个核心组件：有限容量的工作记忆、多维重要性标记、具有不同 NREM 和 REM 阶段的离线睡眠阶段巩固、基于价值的有意遗忘以及支持内省的计算自我模型。在由八项测试组成的标准化基准测试套件中，该原型在十轮对话中实现了完美的回忆准确率，同时通过自适应遗忘将记忆噪音降低了 90.9%。即使存储了数百个概念，内存搜索延迟仍低于一毫秒。这项工作为内存系统的整合、优先级和遗忘奠定了架构基础，为推进 LLM 内存研究提供了一个可测试的平台。