论文

SKT:通过可验证合成数据规模化训练技能使用

SKT: Skill-Use Training at Scale via Verified Synthetic Data Generation

模型训练智能体系统合成数据Agent Skills

摘要

智能体技能已成为为语言模型智能体配备可重用的程序性知识的重要机制。然而,仅提供技能并不能保证当前模型能够有效地识别、应用和协调这些技能。为了提高技能使用能力,我们引入了SKT,这是一种经过验证的数据合成管道,从大量智能体技能中构建技能导向的任务和可执行轨迹。SKT从规则和代理验证中选择合适的单技能和多技能配置,通过反馈引导的修复来合成任务,并保留仅成功轨迹,这些轨迹显著地使用了所有必需的技能。使用2,000个公开技能,SKT生成4,000个任务包和27,164个验证轨迹。基于相同的管道和一个离散的测试池,我们进一步构建了SkillEval,这是一个用于评估技能使用能力的可执行基准。在不同模型、基准和代理框架上进行的实验表明,使用SKT生成的轨迹进行监督式微调可以显著提高技能使用性能。验证方法的消融实验、跨代理评估以及规模实验进一步表明,这些改进依赖于高质量的监督,超越单个代理接口,随着技能覆盖范围的扩展而增加。总的来说,这些结果证明了经过验证的数据合成作为技能使用训练的有效且可扩展的方法。

SKT:通过可验证合成数据规模化训练技能使用:论文配图
图1 : SKT是用于技能使用任务和轨迹的基于多Agent的数据合成管道。SKT合成数据的培训可以有效提高客服代表使用客服代表技能的能力。