使用参与者参数模式协同进化进行编码数据合成后的可操纵指令

解释和遵循人类指令是 大语言模型 (LLM) 在自动编程中的关键能力。然而，合成大规模指令配对编码数据在很大程度上仍未被探索，并且在确保多个约束之间的逻辑兼容性时尤其具有挑战性。在本研究中，我们提出了 IFCodeEvolve，一种用于编码数据生成后的指令的参与者模式协同进化框架。通过将指令表示为参数函数模式，我们构建了一个通过动态约束实例化覆盖广阔指令空间的库。在此基础上，应用蒙特卡罗树搜索 (MCTS) 采样器来有效地导航该空间，利用参与者模型反馈作为动态终止信号。此外，为了逐步探索具有挑战性的问题，我们引入了一种共同进化的范式，该范式基于采样器统计数据，通过模式组合和突变，迭代地推进参与者模型和模式库。实证结果表明，IFCodeEvolve 显着提高了基础模型性能，我们的 32B 模型与专有 SOTA 模型达到了同等水平。此外，我们还贡献了 IFCodeBench，这是一个经过人工验证的综合基准，配备了解决方案和基于 AST 的强大验证。