论文

AutoMem:作为认知技能的自动化记忆学习

AutoMem: Automated Learning of Memory as a Cognitive Skill

上下文与知识记忆Agent记忆

摘要

记忆专长是可习得的技能:知道编码什么、何时检索、如何组织知识——认知科学称之为元记忆(metamemory)。我们将此视角带到LLM:把记忆管理当可训练技能。我们将文件系统操作提升为与任务动作并列的一等记忆动作——让模型自行决定如何管理记忆。记忆技能沿两轴改善:支持它的结构(提示、文件模式、动作词表)与行使它的模型熟练度。两轴都抵抗手动优化:长程任务中的episode运行数千步、单个记忆错误可能在浮现前长期隐藏——使人工审查完整轨迹不切实际。我们引入AutoMem——自动化两轴的框架。第一循环:强LLM审查完整智能体轨迹并迭代修订塑造智能体与记忆文件交互方式的记忆结构。第二循环:从大量episode中识别智能体自身良好的记忆决策、用作训练信号直接锐化模型的记忆熟练度。跨三个程序生成的长程游戏(Crafter、MiniHack、NetHack):仅优化记忆——不修改模型的任务动作行为——即改善基座智能体表现约2-4倍——使32B开放权重模型匹敌Claude Opus 4.5与Gemini 3.1 Pro Thinking等前沿系统。

AutoMem:作为认知技能的自动化记忆学习:论文配图
图 1:使用 Qwen2.5-32B-Instruct 优化记忆技能。从配备文件系统内存 (v0) 的基础代理开始,AutoMem 通过内存支架优化 (v0–v5/v4/v2) 逐步提高性能,然后进行内存熟练度训练 (+train),在优化支架的基础上产生进一步的收益。