论文
用于引导训练数据生成的表示条件扩散模型
Representation-Conditioned Diffusion Models for Guided Training Data Generation
摘要
数据可用性仍然是许多深度学习应用程序的关键瓶颈。大规模数据集的收集、管理和注释通常成本高昂,这可能会限制监督学习方法的可扩展性和适用性。在这项工作中,我们评估了在生成深度学习生成的合成图像数据集上训练的模型的分类性能。特别是,我们使用以 DINOv2、DINOv3 和 CLIP 学习表示为条件的潜在扩散模型。我们的结果表明,通过提高样本质量和模式覆盖率,这种表示条件公式显着优于类条件生成(在 ImageNet100 上 +10.76 p.p. top-1 准确率)。此外,通过缩放合成数据集的大小,我们能够超越在真实数据上训练的分类器(+2.0 p.p top-1 准确度)。我们还演示了如何将生成的图像用于增强目的,超越经典增强方法,以及如何将调节空间用于样本过滤以进一步提高训练价值。总的来说,这些发现强调了表示条件扩散模型为在大规模视觉学习任务中增强、补充或可能取代现实世界数据集提供了一种有前景的方法。