论文

从错误记忆到纠正行动:面向记忆增强智能体的依赖引导回滚修复

From Faulty Memories to Corrected Actions: Dependency-Guided Rollback Repair for Memory-Augmented Agents

上下文与知识记忆Agent记忆

摘要

持久记忆让语言模型智能体跨会话复用信息,但也使错误持久化:一条被投毒、过时或错误归因的记录可以改变推理、工具使用、答案以及后续的记忆写入。现有防御主要是检测或删除可疑记忆,或修改当前响应。删除源头会使已传播的声明、行动和派生记忆继续存活,而重置存储或重放完整轨迹会破坏良性状态并重复不必要的计算。因此,我们形式化了故障后记忆恢复:给定一次失败的执行和诊断出的错误记忆,在保留未受影响工作的同时恢复答案和持久状态。我们的依赖引导回滚修复从运行时来源信息构建类型化的记忆到行动图,追踪显式的下游依赖,保留具有独立可信支持的候选,停用无支撑的记忆状态,并只选择性重放与答案相关的受影响计算。我们在一个覆盖三个工具使用领域和四种记忆故障类型的150案例受控基准上,以及一个改编自LongMemEval-V2的50案例轨迹衍生压力测试上评估该方法。在受控基准上,它取得85.3%的恢复率,而最佳竞争恢复方法为77.3%;它移除所有诊断出的错误记忆、保留所有良性记忆,且只需选择性重放,LLM调用成本适中。在改编子集上,它达到68.0%的恢复率,而次佳方法为54.0%,同时取得最高的声明失效F1:0.669对0.603。总体而言,这些结果并不意味着轨迹重建全面更优,而是表明依赖引导回滚修复在修复错误记忆状态和保留良性记忆的同时,提供了强有力的恢复-成本权衡。

从错误记忆到纠正行动:面向记忆增强智能体的依赖引导回滚修复:论文配图
图1:一个故障记忆产生下游状态。一个被污染的偏好改变了主张、工具计划、答案和一个派生记忆。修复必须移除缺乏支撑的后代、保留未受影响的状态,并重放与答案相关的路径。