面向多层 MeMo 的版本感知操作和事务内存

MeMo 提出了具有显式多层相关矩阵存储器（CMM）的语言模型，其中记忆、检索和遗忘是架构操作。本文探讨了当知识发生变化时，这些记忆如何减少重新训练的需要。对于可表示为 MeMo 记忆关联的变化，可以通过编辑显式记忆来更新模型的可访问知识，而不是重新训练整个模型。我们提出了一个版本感知操作层，其中替换、过时、保留历史记录、回滚和跟踪等高级操作被编译为对序列和标记的 MeMo 原生原语调用。关键的观察结果是版本感知操作很少是单个 MeMo 关联。它是原始编辑的有序事务，例如忘记一个序列词元链、记住另一个序列词元链、保留历史链以及记录逆程序。该框架引入了两个辅助 CMM：用于将版本转换映射到事务句柄的版本 CMM (V-CMM)，以及用于存储可重用变更内容和逆向程序的事务 CMM (T-CMM)。它支持直接序列级编辑和结构化差异级输入，并概述了更新成功、回滚、可追溯性、局部性和事务重用的评估路线。