论文

CLI-Gym:通过Agentic环境反转实现可扩展的CLI任务生成

CLI-Gym: Scalable CLI Task Generation via Agentic Environment Inversion

模型训练合成数据

摘要

Agentic 编码要求智能体与运行时环境(如命令行界面(Command Line Interface,CLI))有效交互,以完成解决依赖问题、修复系统故障等任务。但如何规模化获取此类环境密集型任务以增强智能体能力,仍缺乏充分探索。为解决这一问题,基于 Dockerfile 与 Agentic 任务之间的类比,我们提出让智能体在执行反馈的引导下模拟并探索环境历史。通过追踪健康环境的历史,可以将其状态反转为更早的、存在运行时故障的状态,再把故障状态与相应错误信息打包,即可派生出任务。借助我们名为 CLI-Gym 的方法,共派生出 1,655 个环境密集型任务,是同类中规模最大的集合。此外,利用整理好的成功轨迹,我们微调出的模型 LiberCoder 在 Terminal-Bench 上取得 +21.1%(提升至 46.1%)的大幅绝对改进,优于多种强基线。据我们所知,这是首个公开的、可规模化派生环境密集型任务的流水线。

CLI-Gym:通过Agentic环境反转实现可扩展的CLI任务生成
图1:我们提出的 CLI-Gym 流水线概览。1) 从一个 GitHub 仓库出发,我们构建由可运行环境、代码库及相关单元测试组成的黄金实例(gold instance)。2) 然后从单元测试中派生任务提示,并用智能体执行它们以获得导致失败的命令。基于观察到的执行命令和失败的测试,我们自动生成相应的问题描述(problem statement)。3) 最后,将前面各步骤的输出组装成标准化的任务实例。