TAME：带系统性基准测试的可信智能体记忆测试时演化

智能体记忆的测试时演化是通过经验积累支持复杂推理来实现 AGI 的关键范例。然而，即使在良性任务演化过程中，代理安全对齐仍然容易受到攻击，这种现象称为代理内存错误演化。为了评估这种现象，我们构建了 Trust-Memevo 基准来评估良性任务演化过程中的多维可信度，揭示了不同任务域和评估设置中可信度的整体下降。为了解决这个问题，我们提出了 TAME，一种双内存进化框架，它分别进化执行器内存，通过提炼可推广的方法来提高任务性能，以及评估器内存，根据历史反馈完善安全性和任务效用的评估。通过内存过滤、草稿生成、可信细化、执行和双轨内存更新的闭环，TAME 在不牺牲实用性的情况下保留了可信性。实验表明，TAME 减轻了错误进化，实现了可信度和任务绩效的共同提高。