论文

MemRouter:用于长期会话代理的记忆嵌入路由

MemRouter: Memory-as-Embedding Routing for Long-Term Conversational Agents

上下文与知识记忆Agent记忆

摘要

长期会话代理必须决定将哪些轮次存储在外部存储器中,但最近的系统每次都依赖自回归 LLM 生成来做出该决定。我们提出了 MemRouter,一种写入端记忆路由器,它将记忆准入与下游应答骨干网解耦,并用基于嵌入的路由策略取代每轮记忆管理解码。 MemRouter 将每个回合与最近的上下文一起编码,通过冻结的 LLM 主干投影生成的嵌入,并预测是否应使用轻量级分类头来存储回合,同时仅训练 12M 参数。在 LoCoMo 上进行受控匹配Harness比较时,检索管道、答案提示和 QA 主干 (Qwen2.5-7B) 保持相同,MemRouter 在每个问题类别上都优于基于 LLM 的记忆管理器(总体 F1 52.0 与 45.6,非重叠 95% CI),同时将记忆管理 p50 延迟从 970 毫秒减少到58 毫秒。描述性阶乘平均进一步表明,学习准入比随机存储提高了平均 F1 +10.3,特定类别提示比通用提示提高了 +5.2,检索贡献了 +0.7。这些结果表明,写入端记忆准入可以通过小型受监督路由器来学习,而答案生成仍然是长期会话 QA 中的一个单独的下游组件。