论文

MindForge:通过无源程序合成教授小语言模型全生命周期软件工程

MindForge: Teaching Small Language Models Whole-Life-Cycle Software Engineering via Source-Free Program Synthesis

模型训练合成数据

摘要

编码智能体 在修改现有代码库的软件工程任务方面取得了实质性进展,包括错误修复和功能实现。然而,从头开始构建完整的程序仍然是一个重大挑战:即使是在 ProgramBench 上评估的前沿模型也只能完全解决不到 1% 的任务。一个障碍是缺乏针对这种从头开始设置的可扩展的训练环境,涵盖整个软件工程生命周期,因为现有的环境构建框架仅关注软件开发的单个阶段。为了解决这一差距,我们引入了 MindForge,这是一种自动化管道,可将开源命令行程序转换为无源环境,仅公开已编译的参考可执行文件及其文档。使用 MindForge,我们从与 ProgramBench 中的存储库分离的存储库构建训练环境,并使用 GLM-5.2 作为教师代理来策划由程序合成轨迹组成的高质量数据配方。 微调 Qwen3.6-27B 在这些轨迹上将其 ProgramBench 平均测试通过率从 37.98% 提高到 49.51%,实现了与更大的前沿模型相当的性能。此外,经过微调的模型在所有七个未见过的软件工程基准测试中持续改进了基础模型,涵盖长期存储库生成和翻译、错误修复、功能实现和跨语言问题解决,在 RepoZero-C2Rust 上绝对获得 31.00 分,在 DeepSWE 上获得 14.16,在 NL2Repo-Bench 上获得 10.70/4.56(有/无测试),在 NL2Repo-Bench 上获得 5.04 分。 SWE-bench 已验证,SWE-bench Pro 上为 5.93,SWE-bench Multilingual 上为 5.22,FeatBench 上为 4.94。