论文
走错一步不毁全程:面向LLM Agent的偏离引导技能自进化
A Wrong Turn Does Not Ruin the Journey: Deviation-Guided Skill Self-Evolution for LLM Agents
摘要
大型语言模型智能体日益依赖自然语言技能来解决复杂的工具使用任务。然而,此类任务往往存在多条有效解决路径,因此通过强制失败轨迹匹配固定成功轨迹来改进技能并不合适。此外,失败轨迹很少全盘皆错:智能体可能先收集了有用的证据并取得实质性进展,但后来偏离进入错误的尾部。因此我们认为,技能自进化应定位高效问题求解开始崩溃之处,而不是粗粒度地反思整个失败过程。基于这一洞察,我们提出SkillPivot,一个偏离点引导的技能自进化框架。SkillPivot利用执行有效性、目标进展和动作多样性检测从有用前缀到错误后缀的转变。随后由更强的教师从相同前缀继续,在相同交互历史下产生成功的替代方案。通过对比学生的失败后缀与教师的成功后缀,SkillPivot在保留已有有效指导的同时生成局部化的技能更新。在ToolQA、LogicBench和WildClawBench上的实验表明,SkillPivot持续优于竞争性技能进化方法,改善多个智能体模型,并产生紧凑、可迁移的技能更新。
