轨迹陷阱：理解和减轻主体记忆中的虚假相关性

智能体记忆使 LLM 能够在单个上下文窗口之外保留信息并在以后的决策中重用它，但它也引入了一个新的漏洞：虚假相关性，其中检索到的记忆携带不相关的证据并将错误的推理传播到下游决策中。尽管智能体记忆被广泛使用，但这种风险在很大程度上仍未得到充分研究。我们从两个方面来阐述。首先，我们对通过因果结构识别的几种规范类型的虚假模式进行基准测试，并将它们记录在轨迹级记忆中。在此基准上诊断智能体记忆系统表明，记忆可以改善对干净输入的推理，但会放大对存在的虚假模式的依赖。其次，我们提出了 CAMEL，一种即插即用的校准方法，可以在写入和检索时跨不同的记忆架构进行操作。 CAMEL 始终减少对所有三种类型的虚假模式的依赖，同时保留或提高干净输入的性能，并在针对校准的自适应攻击下保持稳健。总体而言，CAMEL 提供了一个原则性的、轻量级的解决方案，以实现更可靠的智能体记忆部署。