论文
LycheeMemory V2:通过语义段级整合为 LLM 智能体提供高效的长期记忆
LycheeMemory V2: Efficient Long-Term Memory for LLM Agents via Semantic Segment-Level Consolidation
摘要
长视野 LLM 代理必须保留过去交互的信息以支持未来的任务。现有的记忆系统通常依赖于急切的整合,在每次交互后调用 LLM 来提取、总结或更新记忆。随着对话的增长,这种设计使得内存构建的成本越来越高。粗略摘要可以降低构建成本,但存在丢弃细粒度上下文证据的风险,而较大的检索上下文或多跳 LLM 推理会将开销转移到查询时间。我们推出了 LycheeMemory V2,这是一种高效的长期记忆框架,用语义段级巩固取代了回合级巩固。 LycheeMemory 不是合并每个交互,而是将多个交换批处理为段,并将每个最终的段编码为上下文无关的类型化内存记录。段级批处理降低了 LLM 编码频率,而与固定窗口批处理相比,语义边界检测有助于保留连贯的事件级和时间证据。生成的记录使用轻量级结构化索引进行组织,用于查询计划的证据检索。使用 GPT-4.1-Mini 的实验表明,LycheeMemory 实现了最先进的性能,在 LoCoMo 上达到 89.22%,在 LongMemEval-S 上达到 92.20%。与 A-Mem 相比,它在 LoCoMo 上减少了 86.0% 的构造词元,在 LongMemEval-S 上减少了 75.9%,而没有增加查询时词元的使用。更广泛地说,我们的结果表明,长期智能体记忆的准确性与成本权衡不仅取决于保留哪些信息,还取决于信息整合的粒度。