多目标进化合并实现高效推理模型

推理模型通过利用长的思维链在复杂问题上取得了强大的性能，但这种刻意的推理会产生大量的推理时间成本。长到短 (L2S) 推理问题旨在保持准确性，同时减少生成的标记。然而，当前的 无需训练 模型合并方法依赖于脆弱的、固定超参数的算术方法，这些方法迫使次优妥协。我们引入了 \textbf{Evo-L2S}，这是一种多目标进化模型合并框架，它显式优化准确性和输出长度以恢复合并模型的帕累托前沿。为了使这种搜索在计算上易于处理，我们提出了一种基于熵的子集采样技术，可以大大减少适应度估计开销。在六个数学推理基准中，Evo-L2S 在 1.5B 和 7B 尺度上将推理长度减少了 50% 以上，同时保持或提高了问题解决的准确性；在 14B 处，更陡峭的帕累托前沿表明，可实现的压缩取决于推理模型的内在可压缩性。总体而言，Evo-L2S 表明推理模型可以变得更加简洁，同时保持强大的问题解决性能。