ASelecT：自动选择扩散模型中有信息的时间步特征

扩散模型极大地重塑了生成人工智能领域，并且现在越来越多地探索其在判别表示学习方面的能力。 Diffusion Transformer (DiT) 最近作为传统基于 U-Net 的扩散模型的有前途的替代方案而受到关注，展示了通过生成 预训练 进行下游判别任务的有希望的途径。然而，由于时间步搜索不足和 DiT 特定特征表示的利用不足，其当前的训练效率和表示能力仍然受到很大限制。鉴于这种观点，我们引入了自动选择时间步长（A-SelecT），它可以在单次运行中从选定的 Transformer 特征动态查明 DiT 信息最丰富的时间步长，从而消除计算密集型详尽时间步长搜索和次优判别性特征选择的需要。关于分类和分割基准的大量实验表明，在 A-SelectcT 的支持下，DiT 高效且有效地超越了之前所有基于扩散的尝试。