论文

记忆迁移学习:记忆如何在编程智能体中跨领域迁移

Memory Transfer Learning: How Memories are Transferred Across Domains in Coding Agents

上下文与知识记忆Agent记忆

摘要

基于记忆的自我进化已成为编程智能体的一种有前景范式。然而,现有方法通常将记忆利用局限于同质的任务领域,未能利用多样真实编程问题之间共享的基础设施基础,例如运行时环境与编程语言。为突破这一局限,我们研究记忆迁移学习(Memory Transfer Learning,MTL),利用来自异构领域的统一记忆池。我们使用四种记忆表示——从具体轨迹到抽象洞见——在6个编程基准上评估性能。实验表明,跨领域记忆平均提升性能3.7\%,其主要机制是迁移验证流程等元知识,而非任务特定代码。重要的是,我们发现抽象程度决定可迁移性:高层洞见泛化良好,而低层轨迹常因过度具体而引发负迁移。此外,我们证明迁移有效性随记忆池规模扩展,且记忆甚至可以在不同模型之间迁移。我们的工作为将记忆利用扩展到单一领域孤岛之外建立了实证设计原则。项目主页:https://memorytransfer.github.io/

记忆迁移学习:记忆如何在编程智能体中跨领域迁移:论文配图
图 1:记忆迁移学习的概念概述。与(A)无内存代理或(B)单域自我进化代理不同,(C)我们的方法利用来自异构编码任务的共享内存池。 (D) 在不同基准的评估中,MTL 优于自我进化方法。