论文

SkillGym:通过自动生成可验证环境来训练技能使用Agent

SkillGym: Training Skill-Use Agents with Automatic Verifiable Environment Generation

模型训练智能体系统合成数据Agent Skills

摘要

技能为大语言模型Agent提供专业知识和指导,以完成长期和复杂的任务。尽管技能在最近的智能体范例和工具中得到了广泛采用,但如何合成可靠的训练数据以及如何训练智能体的技能使用仍有待探索。在这项工作中,我们提出了 SkillGym,这是一个自动管道,用于构建可验证的环境、收集轨迹和训练技能使用Agent。 SkillGym 首先从互联网上抓取大量技能,然后保留那些工作流程可以在离线状态下重复运行的技能。构建者-审阅者管道用于构建难度控制的任务,涵盖四种任务类型,每种任务类型都有一个参考解决方案和一个可执行验证程序。通过这个管道,我们构建了 6.8k 个环境并收集了 19k 个经过验证的成功轨迹以进行监督微调。对这些轨迹进行微调可以改善不同家族和规模的大语言模型,涵盖四个技能使用基准的参数从 2B 到 122B;我们的 Qwen3.5-9B SFT 模型在其中两个方面优于 397B 未经训练的模型。进一步分析表明,训练让Agent学会调用技能,将读取相关技能的比例从28%提高到96%;这些收益在不同推理结构上保持成立,并扩展到训练数据中占比较小的任务类型以及训练时未见的技能。