参数化技能

由于智力从根本上依赖于有效的技能获取（Chollet，2019），因此利用技能的能力至关重要。对于 LLM，手动编写或从任务轨迹中提取的技能是编码成熟问题解决经验的文本配方，对于代理能力至关重要。尽管得到了广泛部署，但它们的实用性受到模型理解和遵循技能指令的能力的限制，特别是在复杂和长上下文的场景下，其中关键指令很难找到和遵守。为了解决这个限制，我们提出了 ParametricSkills，一个可以在测试时将自由格式的文本技能转换为参数的框架，从而实现与上下文无关的技能开发。具体来说，我们首先构建一个大规模、高质量的技能库，并使用 OpenCode 综合围绕这些技能构建的单轮和多轮技能开发轨迹。然后，我们使用这些数据来训练一个超网络，该超网络通过接收文本技能并将其转换为 LoRA 适配器来参数化技能内容和测试时利用方法。六个复杂软件工程（SWE）子任务的实验结果表明，根据 DeepSeek-V4-Flash 的判断，所提出的 ParametricSkills 平均比上下文学习高 6.44 分，同时还获得了显着更高的 BERT 分数和 F1 分数，证实了其有效性。除了表现之外，我们还发现参数技能本质上是累积性的，为测试时持续学习提供了初步但有希望的途径。