论文
EpaCache:用于加速扩散视觉生成的误差传播感知缓存
EpaCache: Error-Propagation-Aware Caching for Accelerating Diffusion-Based Visual Generation
摘要
基于扩散的视觉生成模型可提供强大的图像和视频合成质量,但会产生较高的推理成本,因为顺序采样器会重复评估大型网络。基于缓存的方法通过跨相邻时间步重用中间计算来减少推理延迟。然而,现有的缓存控制器主要依赖于局部时间变化,而忽略了缓存重用的轨迹级后果。我们引入了错误传播感知缓存(EpaCache),这是一种免训练的缓存策略,可以在对下游影响较低的时间步上自适应地分配重用预算。图像和视频合成模型的实验表明,与现有缓存方法相比,EpaCache 始终如一地改善了延迟与保真度之间的权衡。在 FLUX.1-dev 上,EpaCache 在延迟和保真度方面均优于先前最先进的缓存方法,将推理时间从 $11.7$ 秒减少到 $11.3$ 秒,同时将 PSNR 从 $21.4$ 提高到 $22.8$。在 HunyuanVideo 上,EpaCache 比未缓存推理实现了 $2.63\times$ 的加速,并且在匹配延迟的情况下将 SSIM 从之前最先进的方法的 $0.891$ 提高到 $0.905$。
