论文

关闭零空间:无分类器扩散的引导感知量化

Closing the Null Space: Guidance-Aware Quantization for Classifier-Free Diffusion

摘要

在现实世界的计算预算下部署无分类器指导 (CFG) 扩散模型需要量化,但现有的 后训练 量化 (PTQ) 方法将 CFG 模型视为单分支网络,忽略了 CFG 推理从根本上依赖的成对条件/无条件结构。这种结构性盲点有两个后果。在系统级别,两遍 CFG 执行模式会带来参数​​计数和位操作指标完全隐藏的延迟开销,并且商品 INT8 推理堆栈无法实现 BOP 计算所承诺的理论效率增益。在算法层面,仅针对引导间隙进行校准就可以承认精确的零空间:量化模型可以实现完美的间隙保真度诊断,而无条件分支任意漂移,从而破坏推理时的每个引导预测。本文将其称为分支漂移陷阱,通过分析证明了其存在,并通过假阳性结果从经验上证实了这一点,其中通过标准诊断进行的最佳校准模型同时产生了最差的样本质量。为了关闭这个陷阱,提出了引导感知混合精度(GAMP),它直接校准引导预测,从引导输出退化中导出每层激活位敏感性,并通过贪婪背包分配位——通过构造证明可以防止无条件分支漂移。