现代 Hopfield 网络中的持续学习及其在扩散模型中的应用

生成模型（包括扩散模型）越来越多地用作基础模型，并通过顺序 微调 进行调整，使持续学习成为重要的问题设置。然而，人们对这种生成模型中的持续学习仍然知之甚少：任务改变后，学习到的分布的哪些方面最容易丢失，以及应该优先考虑哪些重放样本？我们通过现代霍普菲尔德能量来解决这些问题。现代 Hopfield 网络 (MHN) 和扩散模型之间的最新联系允许 MHN 中的分析转移到扩散模型。我们将内在遗忘引入为任务改变后霍普菲尔德能量的增加。在 MHN 的易处理环境中，我们证明，高能量、类离群样本比类簇样本经历了更大的能量增加，这意味着位于尖锐、孤立盆地的样本更容易被遗忘。我们进一步分析了内存重放，并表明重放对于高能量样本特别有效，从而实现了基于能量的重放样本选择。我们在持续学习设置下的 MHN 和两个扩散模型的实验中验证了这些预测：稳定扩散和像素空间 DDPM。在这些扩散模型中，Hopfield 能量跟踪基于重建的遗忘，并且重播实验揭示了与 MHN 分析一致的能量依赖性遗忘缓解。