大语言模型 中数学泛化的融合训练

思维模式融合（TMF）通过在单个模型中统一非思维模式和思维模式，使 大语言模型 能够支持简洁响应和长式推理。然而，其训练动态，包括两种模式之间的\emph{数据比率}和\emph{训练计划}，仍未得到充分探索。在这项工作中，我们通过分析训练计划和思维模式与非思维模式之间的数据比率的影响，对 TMF 进行了系统的研究。专注于数学问题解决，我们构建了一个具有多个思考与非思考数据比率和三个训练计划的基准。我们的结果揭示了两种模式之间的不对称相互作用：增加非思维监督的比例会降低思维模​​式的准确性。我们进一步表明，不同的训练计划会调节这种权衡，并且最佳计划取决于数据比率。最后，我们量化了非思维和思维模式监督之间的负相关性，强调了这两种模式之间的内在张力。这些发现为设计有效的 TMF 训练环境提供了实用指导。所有代码和数据均已发布以支持进一步研究：\href{https://github.com/caocongfeng/Fusion-Bench.git}{\textbf{Fusion Bench}}。