论文

AutoRefine:从轨迹到可重复使用的专业知识,持续改进 LLM 代理

AutoRefine: From Trajectories to Reusable Expertise for Continual LLM Agent Refinement

智能体系统上下文与知识记忆Agent HarnessAgent记忆

摘要

大语言模型代理通常无法从经验中积累知识,将每项任务视为独立的挑战。最近的方法将经验提取为扁平化的文本知识,无法捕获复杂子任务的程序逻辑。它们还缺乏维护机制,导致存储库随着经验的积累而退化。我们引入 AutoRefine,一个从代理执行历史中提取和维护双形式体验模式的框架。对于程序子任务,我们提取具有独立推理和记忆的专门子代理。对于静态知识,我们提取技能模式作为指南或代码片段。持续维护机制对模式进行评分、修剪和合并,以防止存储库降级。在 ALFWorld、ScienceWorld 和 TravelPlanner 上进行评估,AutoRefine 分别实现了 98.4%、70.4% 和 27.1%,步数减少了 20-73%。在 TravelPlanner 上,自动提取超过了手动设计的系统(27.1% vs 12.1%),证明了其捕获程序协调的能力。

AutoRefine:把轨迹编译成经验证的类型化智能体工件
图1:AutoRefine 框架概览,包含三个阶段:任务执行、模式提取与模式维护。