MemRefine：LLM 引导的长期代理内存压缩

人们越来越期望 大语言模型 (LLM) 代理能够在长期交互​​中运行，其中必须保存和调用过去对话的信息以支持未来的任务。然而，随着交互的积累，记忆存储会无限制地增长，并充满冗余条目，这些条目会挤出最有用的证据，从而增加存储成本并降低检索效率。此外，这对于具有硬内存预算的资源受限平台尤其有限制，这促使我们制定存储预算内存管理，即将已构建的内存存储保持在固定预算内，同时保留对未来交互有用的信息的任务。为此，我们提出了 MemRefine，这是一个 LLM 引导的框架，由于表面相似性很难反映事实价值，因此仅使用相似性来提出候选对，并将删除、合并和保留决策推迟到 LLM 判断基于事实内容，迭代直到满足预算。在多个内存框架和长期对话基准中，MemRefine 始终满足目标预算，同时在预算紧张的情况下保持下游性能并超越基于规则的基线。