论文

MemAgent:学习管理 LLM Agent的异构记忆提供程序

MemAgent: Learning to Manage Heterogeneous Memory Providers for LLM Agents

上下文与知识记忆Agent记忆

摘要

当前的Agent在任务之间基本上保持无状态,限制了它们从先前的交互中不断改进的能力,并使记忆对于长期 agentic 行为至关重要。现有的记忆方法试图重用过去的经验,但大多数依赖于单一的记忆表示(例如,轨迹、反思、技能、结构化知识),其有效性因任务分布而异。重新思考这个设计空间,我们评估了 13 种记忆方法,发现没有一种方法可以跨基准泛化,从而揭示了管理异构记忆提供程序的潜力。我们将Agent记忆制定为路由问题,其中记忆Agent决定从哪个记忆提供者检索、是否注入短期记忆以及哪个提供者应存储生成的体验。基于这个角度,我们提出了 MemAgent,具有内容感知路由架构和训练数据合成管道。路由架构结合了检索前的内容感知探测、执行期间的短期记忆门控以及选择性多提供者存储,而训练管道则综合了针对路由决策的阶段特定监督。在 GAIA、WebWalkerQA 和 xBench-DS 中,MemAgent 将平均准确度提高了 10.0%,并且在所有三个基准测试中均优于每种单独的记忆方法。这些收益伴随着不到 0.3% 的路由开销和 12% 的平均任务步骤减少。