论文
CoEvo-Mem:协同演化LLM Agent的检索策略与记忆库
CoEvo-Mem: Co-Evolving Retrieval Policy and Memory Bank for LLM Agents
摘要
随着任务和会话中的记忆积累,长短期语言模型(LLM)的性能依赖于查询特定的检索和持续的内存细化。然而,现有的方法通常优化内存访问,通过迭代的查询细化或自适应的检索策略,或者内存进化,如结构更新。这种分离忽略了一个基本的反馈循环:检索决定哪些记忆接收使用信号,而更新的内存库则重塑未来的检索。我们提出了一种闭环框架 \textbf{CoEvo-Mem},用于同时进化检索策略和内存库。对于每个查询,一个冻结的LLM生成特定查询的重写和路由优先级,一个轻量级的残差路由器在线上进行纠正。检索到的上下文作为两个学习过程之间的耦合接口:任务结果为路由决策分配信用,而轨迹条件反馈则更新内存值和图关系。这些更新改变了记忆在后续查询中的排名和选择方式,从而闭合了反馈循环。为了缓解耦合引起的非平稳性,CoEvo-Mem交替更新路由器与内存库固定,以及更新内存库与检索策略固定。在七个不同的基准测试中,\textbf{CoEvo-Mem} 实现了最先进的性能,展示了检索-内存协同进化的重要性。
