学习漂移模型的判别几何

最近提出的漂移模型将迭代分布细化从推理转移到训练，从而实现有效的一步生成。然而，它们在复杂图像数据集上的性能在很大程度上取决于用于构建漂移场的表示：像素空间漂移表现不佳，而预训练的特征空间则显着提高了样本质量，原因尚不清楚。我们将这一差距追溯到表示的判别几何，它决定了核密度估计（KDE）中的样本权重，从而决定了漂移。我们引入了持久表示学习，随着生成器跨批次的发展，它不断学习更具辨别力的表示几何形状。我们进一步在匹配条件下建立 KDE 比率损失和漂移回归损失之间的当前步骤梯度等价，将基于密度比的发电机优化与经验漂移联系起来，并激发对漂移速度的直接控制。在多个数据集中，我们的方法直接从像素学习有效的判别表示，并在原始像素空间漂移模型上将 FID 减少大约 $82-95\%$，而无需预先训练的编码器。调整预训练表示和应用速度裁剪可提供进一步的增益。