论文
DCGC:使用掩模扩散模型进行复杂推理的草稿条件全局校正
DCGC: Draft-Conditioned Global Correction for Complex Reasoning with Masked Diffusion Models
摘要
纠正有缺陷的推理痕迹仍然是 大语言模型 (LLM) 的一项重大挑战,其自回归生成可以将早期错误传播到后续推理中。我们引入了 DCGC,这是一种用于全局校正的掩模扩散模型 (MDM) 框架,它使用来自上游求解器的不完美解决方案草案作为辅助上下文。 DCGC 将特定于任务的监督 微调 (SFT) 与称为动态双 CFG 的新颖推理时间机制相结合。该机制将仅问题分支和联合问题草稿分支分开,并使用相对置信间隙缩放草稿条件残差。在数学、代码和知识推理基准测试中,DCGC 的性能优于标准采样和更简单的 CFG 变体,其他结果表明可以转移到不同的扩散主干。在 真值 故障标签不可用的测试时间设置中,DCGC 通过纠正低共识的上游输出来提高整个测试集的准确性,突出了其作为困难推理实例的无验证器全局校正模块的实用性。