论文

MathAgent:数学推理数据合成的约束图的对抗进化

MathAgent: Adversarial Evolution of Constraint Graphs for Mathematical Reasoning Data Synthesis

模型训练合成数据

摘要

在没有人类先验的情况下合成高质量的数学推理数据仍然是一个重大挑战。当前的方法通常依赖于种子数据突变或简单的提示工程,通常会遭受模式崩溃和有限的逻辑复杂性的困扰。本文提出了一种分层综合框架,将数据综合表述为约束图上的无监督优化问题,然后进行语义实例化,而不是将其视为直接文本生成任务。我们引入了立法者-执行者范式:立法者对抗性地演化出编码问题约束的结构化生成蓝图,而执行者则将这些规范实例化为不同的自然语言场景。这种骨架设计与语言实现的解耦使得能够优先关注构建复杂多样的逻辑结构,从而指导高质量的数据合成。对 Qwen、Llama、Mistral 和 Gemma 系列的总共 10 个模型进行的实验表明,我们的方法取得了显着的结果:在 1K 合成样本上微调的模型在 8 个数学基准上优于广泛使用的相当规模的数据集(LIMO、s1K),表现出卓越的分布外泛化能力。