定制课程：基于动态数据-模型兼容性的以学生为中心的推理蒸馏

推理蒸馏将大语言模型（Large Language Model，LLM）的复杂推理能力迁移给更小的模型，但其成败取决于训练数据与学生模型的匹配程度。本文提出数据-模型兼容性（Data-Model Compatibility，DMC）指标，可用于评估一个数据集对在学生模型上进行推理蒸馏的适用程度。DMC通过联合考虑数据质量、相对难度和学生能力来给出评估。我们从两个角度验证了DMC的有效性：（1）DMC与推理蒸馏性能表现出强相关；（2）以DMC作为数据选择标准能带来推理蒸馏性能的提升。两项发现均在多个学生模型和任务上得到一致验证。此外，由于每个数据集的DMC在训练过程中动态变化，我们的实验表明，基于DMC动态选择数据集可以进一步提升性能。