论文

当置信度误导时:扩散语言模型的后缀锚定和锚邻近置信度调制

When Confidence Misleads: Suffix Anchoring and Anchor-Proximity Confidence Modulation for Diffusion Language Models

模型推理解码与生成控制

摘要

扩散语言模型通过迭代选择和去噪屏蔽位置来生成文本,使位置选择成为核心推理时间决策。大多数 无需训练 方法依赖于模型置信度,假设高置信度位置已准备好进行解码。然而,这种假设在完全非自回归(完全非 AR)解码中可能会失败,其中选择跨越整个屏蔽响应序列。这可能会导致生成不完整,部分原因是 EOT 过度自信。现有的补救措施直接抑制 EOT 词元,但提供的收益有限或需要额外的 微调。我们表明,即使在响应区域末尾附近放置一个语义上最小的后缀锚点,也能阻止过早的 EOT 预测并促进完整生成。然而,尽管提供的支持背景很少,锚点却使附近的位置高度可信,并导致它们被过早解码。因此,我们提出后缀锚定置信度调制,这是一种简单的 无需训练 方法,该方法使用后缀锚定,并在锚点附近进行依赖于进度的置信度调制。在纯文本推理、视觉语言推理和代码生成基准方面,我们的方法优于各种完全非 AR 和半 AR 基线。它还在高度并行解码下实现了特别大的增益,证明了改进完全非 AR 机制相对于分块半 AR 机制的好处。