论文

扩散采样加速的混合基础特征预测

Hybrid-Basis Feature Forecasting for Diffusion Sampling Acceleration

模型推理推理加速

摘要

我们提出混合基础特征预测(HybridFF),这是一种用于加速扩散采样的无需训练即插即用框架。为了在特征演化建模时捕获局部平滑度、长期趋势和复杂的非单调变化,HybridFF 首先使用移动最小二乘法 (MLS) 为每个多个互补基族估计系数,然后使用融合权重组合相应的预测变量。除了基函数的选择之外,融合权重也起着至关重要的作用。我们引入两种策略来平衡质量和加速。 HybridFF(固定)通过在小集合上校准并在推理过程中保持恒定的模型特定融合权重来优先考虑效率。 HybridFF(自适应)使用根据全步预测误差的指数移动平均值计算出的分支可靠性分数在线更新融合权重,从而在积极缓存的情况下提高预测保真度和生成质量,同时保持显着的加速。 DiT-XL/2、FLUX.1-dev、SD3.5-Large 和 HunyuanVideo 的实验表明,与代表性的单基预测器和缓存基线相比,具有良好的加速效果和质量权衡。

扩散采样加速的混合基础特征预测的原论文方法或结果图
图 3:拟议的混合基础预测流程概述。该管道分三个阶段进行:(1)完整步骤计算并缓存精确的中间特征; (2) 预测步骤适合来自相同标准化历史的泰勒、埃尔米特和切比雪夫预测器; (3)分支系数向量通过单纯形权重融合并用于重建反归一化的目标块特征。