论文

GraphMemory:token高效测试时持续学习的结构化记忆

Decoupling Memory from Context: Structured Memory for Token-Efficient Test-Time Continual Learning

上下文与知识上下文工程记忆Agent记忆

摘要

大语言模型日益部署于企业、科学与医疗应用,智能体需要纳入领域知识并从经验适应。上下文工程通过推理时提供的指令、策略与证据改善模型行为,是权重更新的实用替代;但在线适配上下文通常需要昂贵的试错,且查询常被独立处理,有用经验无法延续。记忆系统跨交互保留信息来解决这一限制,但向共享上下文持续追加信息的方法面临token成本攀升、上下文窗口限制与性能退化。我们提出上下文优化的统一表述,证明智能体记忆系统更新可解释为对模型上下文的优化更新过程,为研究记忆设计及其效率提供有原则的框架。据此我们提出GraphMemory——轻量图式记忆,累积、精炼、组织并连接可复用策略;每个查询只检索相关子图,在不把全部记忆暴露给模型的情况下实现在线上下文适配。有界检索下检索记忆量随处理样本数增长保持常数。实验显示GraphMemory在下游性能具竞争力的同时,记忆构造token较基线减少约81-85%。