论文
DC-Leap：草稿引导连续跳跃解码免训练加速扩散语言模型
DC-Leap: Training-Free Acceleration of dLLMs via Draft-Guided Contiguous Leaping Decoding
摘要
并行解码是扩散大语言模型（dLLM）效率的核心，但当前策略常受制于过度保守的置信阈值——由联合概率依赖误差（JPDE）所致，导致冗余去噪迭代与次优推理速度。为克服这一点，我们提出DC-Leap，一个使dLLM在中置信区间实现可靠加速的免训练框架。DC-Leap引入动态连续验证策略：把严格有序的因果约束整合进并行解码过程，经渐进验证token依赖有效中和JPDE，实现性能可比的可靠加速。此外，DC-Leap纳入草稿引导解码机制：草稿经跨多token的向前跳跃扩展上下文，提供前瞻上下文并在推理中保留双向注意力的结构优势。在标准基准上的大量实验显示：DC-Leap取得大幅加速——MBPP长序列生成最高53.19倍，与KV缓存结合最高105.02倍，生成质量可比。代码见https://github.com/ffh-wyls/DC-Leap。
