记忆是一种推导：长期Agent中的分布式证据悖论

长时间运行的 LLM Agent将过去的交互压缩到持久内存中，这些内存可以重复用作后续任务的前提。这就产生了一个明显的推导问题：记忆是否实际上遵循交互历史支持的内容。相关证据可能分散在早期的互动中，而压缩可以引入历史从未建立的关系或事件状态。因此，有效的记忆可能会显得不受支持，因为它的引用忽略了相关证据，而单独支持的事实可能会被组合成历史从未证实的更强有力的陈述。我们通过三个耦合要求来描述这个问题：（1）证据范围； (2) 构图有效性； (3)录取可靠性。因此，我们询问写入时可用的交互历史记录是否支持进入持久内存的内容。我们引入 DerivAudit，这是一个用于审核内存是否确实受到写入时可用历史记录支持的框架。审核分为三个问题：支持证据是否超出了作者提供的引文范围，撰写的记忆是否引入了不受支持的含义，以及写作时的录取决定如何影响以后的记忆使用。在两个自然记忆语料库中，使用更广泛的预写历史记录的审核恢复了对近 60% 的记忆的支持，这些记忆仅从引用中似乎不受支持，而 17-21% 在扩展后仍然不受支持。然而，更广泛的证据本身并不能使承认可靠：在验证模型中仍然经常承认不受支持的记忆，并且证据扩展本身会使两个主干上的情况变得更糟。