通过生成时间选择的学生循环思维链 蒸馏

大型推理模型通过长链思想（CoT）轨迹在复杂任务上实现了强大的性能，但将此类推理过程直接转移到较小的模型仍然具有挑战性。一个关键的困难是，并非所有教师生成的推理轨迹都适合学生学习。现有方法通常依赖于事后过滤，根据启发式标准在完全生成后选择轨迹。然而，这种方法无法控制生成过程本身，并且仍然可能产生超出学生学习能力的推理路径。为了解决这个限制，我们提出了 Gen-SSD（生成时间自选择 蒸馏），这是一种执行生成时间选择的学生循环框架。学生不是被动地消耗完整的轨迹，而是在教师的采样过程中评估候选延续，指导仅可学习的推理路径的扩展，并能够及早修剪无用的分支。数学推理基准测试表明，Gen-SSD 的性能始终优于标准 知识蒸馏 和最近的基线，比标准 KD 提高了约 5.9 点，比其他基线提高了 4.7 点。进一步的分析表明，Gen-SSD 产生更稳定和可学习的推理轨迹，凸显了在生成过程中纳入监督对于有效 蒸馏 的重要性。