论文

Trace2Skill:将轨迹局部经验蒸馏为可迁移的智能体技能

Trace2Skill: Distill Trajectory-Local Lessons into Transferable Agent Skills

智能体系统Agent Skills

摘要

为大语言模型 (LLM) 代理配备特定领域的技能对于处理复杂任务至关重要。然而,手动创作造成了严重的可扩展性瓶颈。相反,自动化技能生成通常会产生脆弱或支离破碎的结果,因为它要么依赖于浅薄的参数知识,要么依次过度适应不可概括的轨迹局部课程。为了克服这个问题,我们引入了 Trace2Skill,这是一个反映人类专家如何创作技能的框架:通过全面分析广泛的执行经验,然后将其提炼成单一的综合指南。 Trace2Skill 不是对各个轨迹依次做出反应,而是调度一组并行的子代理来分析不同的执行池。它提取特定于轨迹的课程,并通过归纳推理将它们分层整合到统一的、无冲突的技能目录中。 Trace2Skill 支持深化现有的人工编写技能和从头开始创建新技能。在具有挑战性的领域(例如电子表格、VisionQA 和数学推理)中进行的实验表明,Trace2Skill 在强大的基线(包括 Anthropic 的官方 xlsx 技能)的基础上显着提高。至关重要的是,这种基于轨迹的进化不仅仅是记住任务实例或特定于模型的怪癖:进化的技能可以跨 LLM 规模转移并推广到 OOD 设置。例如,Qwen3.5-35B 在其自身轨迹上进化的技能在 WikiTableQuestions 上将 Qwen3.5-122B 代理提高了高达 57.65 个绝对百分点。最终,我们的结果表明,复杂的代理经验可以打包成高度可转移的声明性技能——不需要参数更新,不需要外部检索模块,并利用小至 35B 参数的开源模型。

Trace2Skill:将轨迹局部经验蒸馏为可迁移的智能体技能:论文配图
图 1:左图:并行工作的在线环境,来自传入跟踪的经验教训会依次形成技能库。右图:Trace2Skill 并行分析跟踪池,并分层整合经验教训以得出可推广的 SOP。