论文
重新思考如何记住:终身LLM代理记忆中超越原子事实
Rethinking How to Remember: Beyond Atomic Facts in Lifelong LLM Agent Memory
摘要
为了实现可靠的长期交互,LLM 代理需要一个能够忠实存储、有效检索和深入推理累积对话历史的存储系统。大多数现有方法采用基于提取事实的范例:手工制作的静态提示将原始对话压缩为原子事实,然后将其存储、匹配并注入到下游推理中。然而,这种以事实为中心的设计不可避免地会丢弃原始对话中的细粒度细节,并且无法支持对分散的孤立事实的深层推理。此外,静态提示无法在不同的对话风格中保持一致的提取粒度。为了解决这些限制,我们提出了 TriMem,它维护三种共存的表示粒度,包括由源标识符锚定的原始对话片段以实现存储保真度、提取原子事实以实现高效内存检索、合成配置文件将分散的事实聚合为整体语义理解以进行深度推理。我们进一步采用基于TextGrad的提示优化,通过响应质量反馈迭代细化提取和分析提示,实现终身进化,无需任何参数更新。在多个 LLM 主干上对 LoCoMo 和 PerLTQA 进行的广泛实验表明,TriMem 始终优于强记忆基线。代码可在 https://TMLR-TriMem.github.io 获取。