论文
SkillAdam：稳定高效的Agent技能演化
SkillAdam: Stable and Efficient Skill Evolution for Agents
摘要
智能体技能提供了一种轻量级的方法，为冻结的语言模型智能体配备领域知识和程序指导，但获得高质量的技能仍然成本高昂且难以扩展。专家编写的技能需要大量的人力。最近的技能自进化方法自动执行迭代循环，使用执行反馈来修改技能，但其启发式更新策略通常会产生不稳定的优化和低迭代效率。我们确定了实现稳定高效的技能自我进化的两个挑战。方向稳定性需要有效的修正来积累，而不是被迭代局部反馈覆盖。更新适应性要求每次修订的范围能够反映最近案例级别改进的一致性。我们介绍 SkillAdam，这是一个受 Adam 启发的框架，用于优化离散和不可微的技能文档。作为 Adam 第一时刻的功能类比，优化内存记录了识别的问题和先前解决方案的结果，试图稳定更新方向。作为 Adam 第二时刻的功能类比，波动性驱动的编辑预算跟踪最近案例级别改进的历史加权变化，并自适应地控制更新幅度。在跨越短期和长期任务的七个基准中，SkillAdam 通过更稳定的优化动态实现了最先进的性能。与之前的方法相比，它还可以通过更少的优化迭代和更低的成本获得更强的技能。代码存储库：此 https URL