论文

用于扩散的几何感知数据集压缩 模型训练

Geometry-Aware Dataset Condensation for Diffusion Model Training

模型训练合成数据

摘要

数据集压缩旨在通过合成或选择从真实数据构建紧凑的数据集。然而,现有方法不适合扩散 模型训练:合成数据生成通常会产生不适合真实建模的低保真度样本,而实际子集选择通常无法保留扩散似然目标所需的分布几何形状。为了解决这个问题,我们建议将真实子集选择重新表述为几何感知的分布对齐问题。通过结合单侧部分最优传输,我们的方法选择性地将紧凑子集与完整数据分布对齐,同时允许低密度区域中的无与伦比的质量,确保保留有效扩散所需的几何结构模型训练。为了进一步确保分布保真度,我们用轻量级特征统计和语义一致性正则化来补充几何对齐。提出了一种有效的两阶段离散优化策略来实现这一对齐目标。跨扩散变体、子集大小、图像分辨率和训练轮次的广泛实验表明,我们的方法在扩散 模型训练 中实现了卓越的保真度和分布覆盖。代码可在 https://github.com/2018cx/GADC 获取。