通过概念发现在扩散模型中进行测试时组合概括

组合泛化需要模型从熟悉的部分产生新颖的配置。在扩散模型中，先前的成分生成方法通常假设相关概念或调节信号已经可用。相反，我们询问预训练的扩散模型是否可以从它为噪声边缘 $p_t(x_t)$ 学习的时间索引分数中发现特定于查询的概念，并在测试时组合它们。给定一个分布外查询，我们的方法在多个噪声时间步长上对 $s_θ(x_t,t) \approx \nabla_{x_t}\log p_t(x_t)$ 执行梯度上升以恢复局部密度模式，将这些模式映射到干净空间高斯，贪婪地选择具有子模似然目标的相关原型，并将它们组合成具有分析的专家积（PoE）教师模型得分。该教师模型可以通过无分类器指导直接采样，或用于生成样本池以训练新的类嵌入和低秩适配器。在从 ColorMNIST 和 CelebA 构建的保留合成基准上，分析 PoE 采样器和低秩适应模型都优于仅查询和最近的训练类基准。这些结果表明，扩散模型的时间索引分数几何包含可重用的密度模式概念，无需预定义的概念库即可支持测试时组合生成。