论文
使用错误反馈事件驱动缓存加速频域扩散模型
Accelerating Frequency Domain Diffusion Models with Error-Feedback Event-Driven Caching
摘要
扩散模型在时间序列生成方面取得了显着的成功。然而,缓慢的推理限制了它们的实际部署。我们提出 E$^2$-CRF(错误反馈事件驱动的累积残差特征缓存)来加速频域扩散模型。我们的方法利用了两个结构特性:(1)频谱定位,其中信号能量集中在低频,以及(2)镜像对称,它将有效频率维度减半。 E$^2$-CRF 使用闭环错误反馈系统,可跨扩散步骤自适应缓存 Transformer KV 特征。我们使用事件驱动的残差动态而不是固定的时间表来触发重新计算。我们的方法有选择地重新计算高能量或快速变化的词元,同时重用缓存的特征来获得稳定的高频分量。 E$^2$-CRF 在保持样本质量的同时实现了约 2.2 的加速。我们在 5 个数据集上展示了有效性。我们的缓存策略自然地与扩散过程的结构到细节的进展保持一致。我们包括标准正则性假设(附录)下的充分条件误差和复杂性界限,以及经验验证。我们的代码可在 https://github.com/NoakLiu/FastFourierDiffusion 获取,并且也集成在 https://github.com/NoakLiu/FastCache-xDiT 中。