过渡法则的格子

扩散和自回归（AR）长期以来一直被视为不同类别的生成模型，扩散专门针对连续领域，而 AR 专门针对离散标记。最近的工作试图结合这两种模型的优点，并且每种混合模型都通过设计固定了其解码时间表。在本文中，我们询问是否可以在以固定步数进行解码之前预测一种模型的解码时间表的性能。我们将扩散、AR 和之间的模型描述为一个腐败网格上的路径，并将调度的成本定义为其并行步骤丢弃的依赖性。成本表明零成本计划的最少步骤是由数据的几何形状设置的，对于token和连续字段也是如此。特别是，对于图上马尔可夫且沿其路径相关的数据，最少的步骤等于图的树深度，其与序列的长度呈对数关系，与网格的边长呈线性关系。由于步数少于树深度，每个调度都会付出正成本，我们在解码之前预测其排名 具有根据预训练权重估计的成对依赖性的内核。在文本生成、图像生成和视频生成中，我们验证了关于不同指标和基准下不同调度的排名的大部分预测。因此，这项工作为未来 AR 模型、扩散模型以及介于两者之间的任何模型的解码提供了设计原则。我们的代码可在 https://github.com/TSUITUENYUE/The-Lattice-of-Transition-Laws. 获取