流形推理：扩散语言模型中自验证的双向一致性

虽然 Diffusion 大语言模型 (dLLM) 为全局规划提供了结构优势，但有效验证它们是否通过有效的推理轨迹得出正确答案仍然是一个关键挑战。在这项工作中，我们提出了一种几何视角：流形推理。我们假设有效的生成轨迹作为稳定吸引子驻留在学习分布的高密度流形上，而无效路径则表现出流形外漂移。为了实现这一点，我们引入了双向流形一致性（BMC），这是一种 无需训练 无监督度量，它通过前向掩蔽和后向重建循环来量化生成序列的稳定性。根据经验，我们证明了 BMC 在整个推理生命周期中的多功能性：（1）在诊断中，它可以作为解决方案有效性的强大判别器，无需 真值 答案； （2）在Inference中，实现拒绝重采样，有效地将计算资源集中在复杂的推理任务上； (3)在Alignment中，它起到密集的几何奖励的作用，将稀疏的结果监督转化为细粒度的指导，使模型能够自我进化，超越标准基线。我们的结果建立了内在的几何稳定性作为 dLLM 正确性的有力指标。