OSCAR：编排式自验证与跨路径精炼

扩散语言模型（DLM）公开其去噪轨迹，为推理时间控制提供自然的处理方式；因此，理想的幻觉缓解框架应该在生成过程中使用该模型原生信号进行干预，而不是依赖于外部训练的幻觉分类器。为此，我们制定了承诺不确定性定位：给定一个去噪轨迹，在实际上不可靠的承诺传播到自洽但不正确的输出之前，识别出跨链熵超过无监督阈值的token位置。我们引入了一套轨迹级评估，包括跨链幻觉分歧（CDH）指标，用于定位方法的原则比较。我们还介绍了 OSCAR，这是一个无需训练的推理时间框架，可用于实施此公式。 OSCAR 运行具有随机显示顺序的 N 个并行去噪链，计算跨链香农熵以检测高不确定性位置，然后根据检索到的证据执行有针对性的重新屏蔽。消融证实，定位和校正贡献了互补增益，在 {4,8,16} 中的 N 中具有鲁棒性。在使用 LLaDA-8B 和 Dream-7B 的 TriviaQA、HotpotQA、RAGTruth 和 CommonsenseQA 上，OSCAR 通过不确定性引导的重新屏蔽显着减少幻觉内容并提高事实准确性，从而提高生成质量，这也有助于更有效地整合检索到的证据。其基于熵的原生不确定性信号超过了专门训练的检测器的信号，突出了扩散语言模型识别事实不确定性的固有能力，而自回归模型的顺序token承诺结构中不存在这种能力。我们正在发布代码库1，以支持 DLM 中本地化和不确定性感知生成的未来研究。