从模式到记忆：表征扩散模型的尺度空间动力学

扩散模型通常被视为将噪声转化为数据的随机过程。我们采取互补的观点：扩散模型定义了一系列由噪声尺度索引的确定性动力系统。在每个固定尺度$σ$，我们将降噪器视为自映射并研究其动态。对于精确降噪器，固定点对应于平滑数据密度的临界点，而吸引子对应于其模式；随着 $σ$ 的增加，样本级模式逐渐合并为更粗糙的模式。这提出了记忆的几何观点：由于重复或过度拟合而接收过量概率质量的示例以及异常值在比普通示例更强的平滑下应该保持可区分性。我们通过临界尺度 $σ_c$ 来量化这种持久性，临界尺度 $σ_c$ 是固定尺度动力学保留示例的最大噪声尺度。在条件模型中，相同的结构自然地扩展到图像-标题对。在受控设置和大规模模型中的实验表明，$σ_c$ 跟踪由重复、过度拟合和异常值引起的记忆，并识别稳定扩散中记忆和部分记忆的示例。此外，$σ_c$ 产生图像空间分布和记忆的标题依赖性的可解释测量。