论文

SAGE:Agentic LLM 中高效内存演进的新颖之门

SAGE: A Novelty Gate for Efficient Memory Evolution in Agentic LLMs

上下文与知识记忆Agent记忆

摘要

Agentic LLM 必须不断决定是否应添加新提取的事实、与现有记忆合并或忽略,但之前的工作更多地关注检索和存储,而不是原则性的写入端控制。我们将内存演化视为一个新颖性检测问题,并提出了 SAGE,一种用于内存演化的球形自适应门,它使用基于 von Mises-Fisher 的密度估计器对内存嵌入进行评分候选事实,并使用跟踪内存存储几何形状的自适应阈值对它们进行路由。 SAGE 将明显新颖的事实解析为 ADD,将明显冗余的事实解析为 NOOP,并且仅将不确定的情况发送到 LLM 合并步骤,从而减少昂贵的写入时推理。在 LoCoMo 上,SAGE 在所有 7 个开放权重主干网比较中相对于 Mem0 实现了最佳平均 token-F1,而在 GPT-4o-mini 上,它将添加阶段 API 成本降低了 3.4$\times$,将添加阶段延迟降低了 2.5$\times$,平均评判分数差距很小。作为 A-Mem 的嵌入式二进制门,SAGE 在五个模型中跳过了大约 16-18% 的 LLM 调用,并且开放权重主干上的质量变化最小。这些结果表明,新颖性感知写入控制是提高长期代理内存的内存质量和系统效率的实用杠杆。我们方法的源代码可在 https://github.com/swang1024/SAGE 访问。