论文

MemoryCPT:一种用于成本性能权衡的端到端代理内存框架

MemoryCPT: An End-to-End Agent Memory Framework for Cost-Performance Trade-off

上下文与知识记忆Agent记忆

摘要

长视野 LLM 代理需要记忆系统从大量交互历史中恢复有用的证据,而不会将过多的上下文传递给下游模型。现有的内存管道通常依赖于手工设计的启发式方法和重复的 LLM 调用,这可能会引入冗余上下文和高推理成本。我们提出了 MemoryCPT,一种端到端的可训练代理内存管道,涵盖离线内存构建和在线查询条件上下文生成。 MemoryCPT 包含两个阶段:查询无关的 蒸馏 (QAD),它使用显式推理跟踪将模块化内存构造管道提炼为紧凑模型;查询感知检索和总结 (QAR),它将倒数排名融合 (RRF) 与基于 LoRA 的摘要器相结合,该摘要器通过组相对策略优化 (GRPO) 在成本感知奖励下进行训练。我们进一步引入每成本质量(QPC)来量化每单位推理成本的答案质量。 LoCoMo 和 LongMemEval 上的实验表明,MemoryCPT 改善了评估基线的性价比权衡,而消融和敏感性分析则描述了其组件的贡献以及关键设计选择的影响。