论文

通过免训练轨迹路由加速视频传播

Accelerating Video Diffusion via Training-Free Trajectory Routing

模型推理推理加速

摘要

视频扩散的计算成本很高,因为它需要跨许多去噪步骤执行大型模型。即使采用分步蒸馏,推理仍然很昂贵,因为每个蒸馏步骤仍然需要昂贵的模型评估。我们提出了 TRACK:通过 top-K 选择的 TRajectory-Aware 容量路由,这是一种异构去噪策略,可在选定的步骤中在兼容的大模型和小模型之间切换,从而降低每次去噪评估的平均成本。切换步骤是使用校准过程来确定的。 TRACK 首先使用大模型推出参考轨迹。然后,在每个步骤中,还收集小模型的预测并将其与大模型的预测进行比较,以获得相对分歧分数。两种模型都接收相同的潜在输入、时间步长、调节和指导输入。在校准集上聚合该信号会产生跨扩散步骤的分歧分数图,这决定了有效推理过程的切换策略:质量敏感的步骤继续使用大模型,而分歧分数低的步骤则路由到小模型。推理在每一步仅执行选定的模型,无需重新训练、架构或调度程序更改,也无需在线双模型评估。在 Wan 2.1、Cosmos 3、TurboDiffusion 和 FastVideo 中,TRACK 分别产生 $1.95\times$、$2.04\times$-$2.73\times$、$2.69\times$ 和 $2.17\times$ 加速,同时具有可比的总体质量和高多样性保留。 TRACK 从而建立了自动化、免训练的模型切换作为视频传播的实用加速范例。