扩散采样的量化感知卡尔曼估计

量化为部署扩散模型提供了一条实用的途径，减少了内存和计算量，但激进的压缩可能会导致量化输出与其全精度对应输出大幅偏差。采样阶段校正方法试图补偿采样过程中的此类偏差，但现有方法主要依赖于局部信息和未充分利用的轨迹历史，限制了它们校正跨时间步传播的误差的能力。在这项工作中，我们将使用量化降噪器进行采样作为在线估计问题，使用量化降噪器输出的历史记录来恢复采样器所需的基础全精度输出。我们提出了 QuAKE，一种量化感知卡尔曼估计器，它将平滑轨迹先验与条件高斯观测模型相结合。在每个采样步骤中，QuAKE 以封闭形式递归更新输出窗口上的后验，并将其后验均值馈送到采样器。 QuAKE 是一种轻量级的即插即用校正器，无需修改量化网络，自然支持任意高阶多步 ODE 采样器。 W4A4 量化文本到图像扩散模型的实验表明，QuAKE 在减少全精度采样的分布差异方面始终优于现有方法。