迷失在扩散中：揭示扩散中的幻觉模式和失败模式大语言模型

摘要

虽然扩散大语言模型 (dLLM) 已成为一种与自回归 (AR) 模型相媲美的有前景的非自回归范式，但其忠实性（特别是关于幻觉）在很大程度上仍未得到充分探索。为了弥补这一差距，我们提出了第一个对照比较研究来评估 dLLM 的幻觉模式。我们的结果表明，当前的 dLLM 比受架构、规模和预训练权重控制的 AR 同行表现出更高的幻觉倾向。此外，对推理时间计算的分析揭示了不同的动态：虽然准自回归生成遭受早期饱和，但非顺序解码释放了连续细化的潜力。最后，我们确定了扩散过程特有的不同故障模式，包括过早终止、不完全去噪和上下文入侵。我们的研究结果强调，尽管 dLLM 缩小了一般任务上的表现差距，但其独特的幻觉机制对模型的可靠性提出了严峻的挑战。我们的代码位于 https://github.com/ZeroLoss-Lab/Lost-in-Diffusion