论文

CAB:通过整流和修正的 Adams-Bashforth 加速流动和扩散采样

CAB: Accelerating Flow and Diffusion Sampling via Rectification and Corrected Adams-Bashforth

模型推理推理加速

摘要

流动和扩散模型实现了高保真、高分辨率的图像合成,但通常需要在采样时进行许多函数评估(NFE)。现有的加速方法要么需要通过 蒸馏 进行额外训练,要么依赖 无需训练 高阶求解器,这两种方法都会在低 NFE 预算下降低样本质量。我们提出了 CAB(Corrected Adams-Bashforth),这是一种 无需训练 采样器,可以加速流动和扩散模型。 CAB 首先将采样动力学转换为通用校正坐标系,然后应用多步 Adams-Bashforth 预测器,并根据过去的速度评估使用简单的校正项进行增强,因此不会产生额外的 NFE。由此产生的方法很简单,跨模型类具有相同的算法形式,并且至少具有三阶局部截断误差和二阶全局误差。对预训练流和扩散模型(包括类条件和大规模文本到图像基准)的实验表明,CAB 在 6-20 NFE 的低步状态下改进了质量与 NFE 权衡。在大多数测试模型中,它在更高的步数下仍然与强大的 无需训练 采样器竞争。官方实现位于 https://github.com/Anuska-Roy/CAB。