遵循潜在路线图：使用锚定词元导航可撤销解码以进行扩散 LLM

Diffusion 大语言模型 (dLLM) 为并行生成提供了一种有前景的途径，但面临着解码速度和质量之间的权衡。虽然可撤销解码策略试图通过验证和重新屏蔽词元来减少错误，但它们通常在混合质量的上下文中运行。这会导致两个严重的失败：\textit{错误传播}，其中新词元从错误上下文中吸收有毒信息，以及 \textit{局部错误强化}，其中错误相互加强以逃避检测。为了缓解这些挑战，我们提出了 ASRD（锚监督可撤销解码），这是一种在嵌入空间内运行的 无需训练 框架。 ASRD 显式地将解码上下文解耦为可信的 \textit{Anchor Tokens}，这些标记通过时间一致性和不确定的候选者进行识别。利用动态锚标记缓存，我们引入了两种互补机制：（1）锚引导生成，它将熵加权锚信号注入到屏蔽位置，以隐式纠正对可靠全局骨架的注意力； (2) 锚点扰动验证，它将正交扰动应用于不确定的候选词元，破坏稳定并重新掩盖由脆弱的局部共识驱动的错误。关于数学和编码基准的大量实验表明，ASRD 的性能优于最近的重新屏蔽基线，实现了高达 6.4\% 的精度提升，同时将推理吞吐量加速了高达 7.2$\times$。代码可在 https://github.com/preordinary/ASRD 获取。