撤销后仍具权威：Agent记忆系统的撤销执行研究

长时间运行的语言模型智能体依赖于持久记忆。许多智能体记忆系统通过软撤销来保存历史：矛盾的事实被标记为无效并保留而不是删除。然而，该标记是否在检索时强制执行尚未得到检验。在本文中，我们测量了五个这样的系统：我们向每个系统加载已撤销的策略及其替换，跟踪撤销的事实是否在检索时返回，以及智能体是否随后在九个策略场景和九个模型中对其采取行动，并在六种防御条件下对每个试验进行评分。我们发现，默认情况下没有系统强制撤销：只要撤销标签对检索层可见，就会返回撤销的事实，其排名高于其替换，并导致智能体采取不安全的操作。根据这些发现，我们开发了一个位于智能体和任何记忆后端之间的防护程序，并保留已撤销或与其替代项冲突的记录。