论文

经验树:自我进化代理的分层经验管理

Tree-of-Experience: Hierarchical Experience Management for Self-Evolving Agents

上下文与知识记忆Agent记忆

摘要

持续的自我进化需要 LLM 代理将环境交互转化为可靠且可重用的体验。现有的方法通常精炼个体轨迹或从相关轨迹中抽象共享知识,但它们的经验表示通常与底层推理过程脱节。这限制了反馈归因、跨任务传输以及更新和检索效率,特别是在具有结果级反馈的复杂推理任务中。为了克服这一限制,我们提出 \textbf{T}ree-\textbf{o}f-\textbf{E}xperience (ToE),这是一个结构化的体验管理框架,它将体验组织与 LLM 代理的分层推理过程保持一致。具体来说,ToE 将经验组织成分析视角和推理路径的共享树,其可靠性通过环境结果进行校准,以支持系统更新、转移和高效检索。 \textsc{Game of 24} 和 \textsc{FinEvolveBench} 上的实验结果表明,ToE 极大地提高了解决问题的性能和效率。在 \textsc{Game of 24} 中,ToE 的准确度比无经验的 ToT 基线提高了 31.4%。在 FinEvolveBench 上,ToE 在 12 个评估设置中比无体验管道平均将 tsIC 提高了 41.24%,而传统的体验管理方法通常表现不佳。