论文
双向课程生成:面向数据高效数学推理的多Agent框架
Bidirectional Curriculum Generation: A Multi-Agent Framework for Data-Efficient Mathematical Reasoning
摘要
增强大型语言模型的数学推理通常需要海量数据,而数据效率仍是关键瓶颈。虽然课程学习试图对这一过程加以结构化,但标准的单向方法(由简到繁)样本利用效率低下:即使基础性缺口仍然存在,它们也盲目提升复杂度,导致在不可解问题上浪费计算。为了最大化每个训练样本的教学价值,我们提出一种新颖的双向课程生成框架。与僵化的轨迹不同,我们的多Agent生态系统模仿适应性教学法来建立闭环反馈。它通过两种方式动态生成数据:要么将问题复杂化以挑战模型,更关键的是,将问题简化以修复特定的推理失败。这一机制确保模型在任何阶段都只消费最有效的数据。基于最优节奏定理(Optimal Pacing Theorem),我们的方法优化学习轨迹,以显著更少的指令样本取得优于基线的推理性能。
