论文

LearniBridge:用于扩散模型加速的特征缓存的可学习校准

LearniBridge: Learnable Calibration of Feature Caching for Diffusion Models Acceleration

模型推理推理加速

摘要

Diffusion Transformer (DiTs) 推动了图像和视频生成方面的重大进展,但计算成本过高。特征缓存通过重用中间表示来加速推理。现有方法依赖于历史特征来实现简单性,但在高加速比下会遭受严重的误差累积。为了解决这个限制,我们研究了必要的特征校正的性质。我们证明了最佳校准更新的特点是跨不同提示共享低秩子空间。在这种结构洞察的指导下,我们提出了 LearniBridge,一种用于特征缓存的可学习校准机制,通过轻量级 LoRA 更新桥接多个时间步。该机制只需 3-5 个训练样本即可实现有效校准。对图像和视频生成的大量实验表明,LearniBridge 在 FLUX、HunyuanVideo 和 WAN2.1 上分别实现了高达 $5.87\times$、$5.75\times$ 和 $4.10\times$ 的加速。在 WAN2.1 上,它比之前的 SOTA 提高了 1.28% 的 VBench,加速率为 $4.10\times$。我们的代码可在 https://github.com/Iiiiiiirene/LearniBridge 获取。