论文
过滤后验均值集合:扩散泛化分析模型的统一框架
Filtered Posterior Mean Collections: A Unified Framework for Analytical Models of Diffusion Generalization
摘要
构成图像扩散模型支柱的神经网络去噪函数在各种网络架构和训练过程超参数中的泛化行为非常一致。最近的一系列研究试图通过聚合训练数据集补丁的后验加权平均值来对这些网络的输出进行建模。在这项工作中,我们将这些方法整合到一个统一的模型类中,我们称之为过滤后验均值集合(FPMC)。我们使用查询精度向量、响应权重和源分布来定义该模型类,并说明现有方法可以通过这些设计轴的特定选择来恢复。依次研究每个轴,我们发现可以通过先前基于补丁的方法的软松弛以及通过源分布的增强来提高 FPMC 性能。将这些发现应用于现有的 FPMC,我们展示了三个自然图像数据集的一致样本改进。