论文

LazyMem:广泛检索、选择性构建的高效长期智能体记忆

LazyMem: Retrieve Broadly, Construct Selectively for Efficient Long-Term Agent Memory

上下文与知识模型训练强化学习记忆Agentic RLAgent记忆

摘要

长期记忆使LLM智能体能够利用过往交互,但对话历史会迅速超出上下文窗口,迫使智能体在查询时检索相关子集。由于有用证据稀疏且散落在冗长的对话中,检索面临一个根本性矛盾:扩大召回可提升覆盖面,却会让噪声淹没下游推理;而在写入时压缩记忆便于检索,却会不可逆地丢弃未来查询可能需要的细节。我们提出LazyMem,它将所有记忆构建推迟到查询时,从而化解这一矛盾。给定检索到的候选池,一个轻量模型以重叠的并行窗口处理它,只选择性地保留与压缩和查询相关的内容。该模型先经监督微调再经强化学习训练,奖励函数联合鼓励识别相关消息,以及生成忠实于原文且有助于回答查询的压缩内容。在LongMemEval上,LazyMem-4B取得0.85的LLM评审准确率,超越最强非oracle基线,而答题上下文记忆词元仅用213个,比基线少21.0倍。它还能在未经目标域训练的情况下泛化到LoCoMo,并较先前查询时基线降低了平均延迟。代码发布于 https://github.com/allacnobug/LazyMem。