并行屏蔽扩散语言模型的基于编辑的细化

掩码扩散语言模型支持并行词元生成，并比自回归模型提供更高的解码效率。然而，由于 词元级 训练目标和联合序列一致性之间的不匹配，当同时生成多个词元时，它们的性能会显着下降。在本文中，我们提出了 ME-DLM，这是一种基于编辑的细化框架，可通过轻量级后期编辑步骤增强扩散生成。在生成初始完整响应后，模型通过最少的编辑操作（包括替换、删除和插入）对其进行细化，以完整序列为条件。训练监督源自编辑距离，在固定规范化方案下提供确定性信号以学习最小校正。这种方法通过全局条件编辑促进序列级一致性，同时保留并行扩散解码的效率优势。大量实验表明，ME-DLM 提高了多词元并行生成的质量和鲁棒性。特别是，当基于 LLaDA 构建时，我们的方法在使用总扩散步骤的八分之一的情况下，在 HumanEval 上实现了 11.6 点的一致增益，在 GSM8K 上实现了 33.6 点的一致增益。代码可在 https://github.com/renhouxing/ME-DLM 获取。