论文
BRISK-DLM:按验证进度优化扩散模型的并行生成
From Position Risks to Block Survival: Faster Generation for Diffusion Language Models
摘要
扩散语言模型 (DLM) 可以通过并行预测多个词元来加速生成,但这些词元的预测方式与它们最终对生成的贡献方式之间存在不匹配。并行预测很难以同一块中较早选择的词元为条件,即使它们的有效性取决于这个实现的前缀。在流行的提案验证解码下,这种不匹配使得错误高度不对称:早期拒绝会阻止所有后续提案贡献解码进度。我们引入了 BRISK-DLM,这是一个通过优化提案学习和选择以验证进度来解决不匹配问题的框架。 BRISK-DLM 在自行生成的序列上进行训练,使用风险回报权重根据位置对验证进度和解码成本的影响来动态确定位置优先级。在推理过程中,轻量级前缀条件校正器使用先前选择的标记和从模型自己的验证器中提取的偏好对现有候选者进行重新排序。校正器重用主干的并行表示,不需要额外的主干评估,而融合执行则保持较小的开销。 BRISK-DLM 将端到端吞吐量提高高达 37.4%,同时保持任务质量,为 DLM 生成建立新的质量吞吐量前沿。