论文

NaviCache:用于视频生成的测试时自校准缓存

NaviCache: Test-Time Self-Calibration Caching for Video Generation

模型推理推理加速

摘要

视频扩散模型 (VDM) 受到巨大计算成本的限制。虽然基于离线校准的加速受到校准数据依赖性、校准持续时间过长以及对分布变化的敏感性的影响,但离线免校准方法消除了这些障碍。然而,由于它们依赖于瞬时零阶近似,其中输入和输出差异之间的映射实时变化,因此它们容易受到观测噪声的影响并忽略扩散轨迹内的内在动量。在本文中,我们提出了 NaviCache,一种即插即用的测试时自校准方法,将特征演化重新概念化为惯性导航系统(INS)问题。 NaviCache 通过对输入和输出变化之间的相对耦合进行建模,弥合了基本域差距和扩散的非平稳性质。我们引入了一种双状态估计架构,该架构可以自适应地跟踪特征变化率及其潜在漂移,并通过专门的初始对齐阶段进行初始化。通过将时间相关的噪声调度与不确定性感知的测量更新机制相集成,NaviCache 为错误限制计算跳过提供了一种理论上可靠的机制。在HunyuanVideo、Wan、Open-Sora系列上的大量实验表明,NaviCache对计算跳跃的错误判断更加准确,综合性能表现出色。