通过原子技能扩展 编码智能体

当前的 LLM 编码智能体 主要在复合基准上进行训练（例如，错误修复），这通常会导致特定于任务的过度拟合和有限的泛化。为了解决这个问题，我们提出了一种新颖的扩展范式，将重点从任务级优化转移到原子技能掌握上。我们首先形式化五项基本原子技能：代码本地化、代码编辑、单元测试生成、问题再现和代码审查，它们作为复杂软件工程任务的基础向量。与复合编码任务相比，这些原子技能更具通用性和可组合性。然后，我们通过对原子技能执行联合强化学习来扩展 编码智能体。通过这种方式，原子技能不断得到提高，而不会产生负面干扰或相互权衡。值得注意的是，我们观察到这些原子技能的改进可以很好地推广到其他看不见的复合编码任务，例如错误修复、代码重构、机器学习工程和代码安全。该观察结果通过原子技能训练激发了 编码智能体 的新扩展范式。大量的实验证明了我们提出的范例的有效性。值得注意的是，我们的联合强化学习在 5 项原子技能和 5 项复合任务上的平均性能提高了 18.7%。