使用表示自动编码器蒸馏漂移 Transformer

尽管具有显着的训练加速效果和良好的性能，但表示自动编码器 (RAE) 主要因 蒸馏 有效性不佳而受到批评。 In this work, we argue that RAE is competent at high-quality one-step generation. We achieve 1.48 FID with only 16-epoch 蒸馏 on ImageNet 256 dataset, surpassing various state-of-the-art methods. To achieve this, we quantitatively study the geometrical behavior of different underlying data spaces.我们得出的结论是，传统的 蒸馏 方法严重依赖于普通教师去噪轨迹的先验，而 RAE 由于不良的各向异性潜在空间而导致属性较差的更复杂的轨迹。我们将最近提出的漂移场引入为 蒸馏 方法，该方法利用语义丰富的 RAE 潜伏并提供不依赖的直接监督。将我们的 Drift-RAE 与之前的生成范例结合起来，我们提出了一些富有洞察力的修改，包括第一个基于外推法的引导采样管道，用于几乎没有成本的一步生成。该代码将公开。