论文

AdaMEM:面向语言智能体的测试时自适应记忆

AdaMEM: Test-Time Adaptive Memory for Language Agents

上下文与知识记忆Agent记忆

摘要

语言智能体面临的一个主要挑战是利用过去的经验来适应动态的测试条件。虽然最近的工作证明了代理记忆机制的前景,但大多数系统将检索限制在事件开始时。因此,智能体被迫依赖静态指导,随着长期任务的展开,这种指导变得越来越不协调。为了解决这种僵化问题,我们提出了自适应记忆代理(AdaMEM),这是一种用于代理测试时适应的新颖框架。在不在线更新模型参数的情况下,AdaMEM 通过混合记忆架构调整代理行为:它维护离线收集的原始经验的长期轨迹记忆,同时动态生成动态短期策略记忆以指导决策。这种机制可以在不同的推理时间计算级别之间实现词元效率和适应性之间的权衡。根据经验,AdaMEM 的性能显着优于静态内存基线,在 ALFWorld 上实现了高达 13% 的相对增益,在 WebShop 上实现了 11% 的相对增益,并将一致的领先性能扩展到 HotpotQA 上的代理搜索。为了进一步增强这种适应性,我们开发了 STEP-MFT,这是一种逐步记忆微调技术,可以训练策略从检索到的经验中合成高质量的策略,从而产生额外的性能提升。我们的工作为代理记忆建立了一个新的扩展维度,支持现实环境中部署后的持续推理和自我进化。我们的代码可在 https://github.com/yunx-z/AdaMEM 获取。

AdaMEM:面向语言智能体的测试时自适应记忆:论文配图
图 1:AdaMEM 概述。智能体不依赖静态的、情节级别的策略,而是通过查询原始经验的长期轨迹记忆 (1-2) 并将其合成为适合当前状态的动态短期策略记忆 (3) 来适应当前的决策步骤。根据此测试时策略,代理会调整其下一个操作 (4),而无需更新参数。