论文

MemFlow:小语言模型代理的意图驱动记忆编排

MemFlow: Intent-Driven Memory Orchestration for Small Language Model Agents

上下文与知识记忆Agent记忆

摘要

现代语言代理必须在长期、多轮历史上运行,但使用小语言模型(SLM)部署此类代理仍然从根本上很困难。全上下文提示会导致上下文溢出,平面检索会使模型暴露在嘈杂的证据中,而开放式代理循环在有限的推理能力下是不可靠的。我们认为,SLM 记忆故障的很大一部分是由不匹配的记忆操作引起的:不同的查询类型需要完全不同的检索策略、证据转换和上下文预算,而 SLM 无法通过开放式推理可靠地进行自我编排。我们介绍 MemFlow,这是一个 无需训练 记忆编排框架,可从 SLM 外部化记忆规划。路由器代理按意图对每个查询进行分类,并将其分派到记忆代理,记忆代理执行三个专门层(配置文件查找、目标检索或深度推理)之一,并在动态的、层感知的 词元预算 下组装结果证据。然后,应答代理从这个紧凑的上下文中生成响应,并且当所提供的证据不支持响应时,验证器代理可以选择使用较重的记忆层重试。这种先路由后编译的设计避免了工具选择幻觉和推理循环,同时保持答案上下文紧凑。在冻结的 Qwen3-1.7B 主干上跨长范围记忆基准测试(LongMemEval、LoCoMo 和 LongBench)进行评估 - MemFlow 的准确性比全上下文 SLM 基准提高了近 2 倍。这些结果表明,结构化意图路由和确定性证据准备可以使有限容量模型在资源受限的长视野代理中更加有效。