KBBQ：预测噪声定律和 FP4 量化中频谱平坦化的限制

我们开发了矩阵乘法中量化噪声的二阶理论，其中量化格式由分配给每个元素的方差来表征。整数量化的恒定方差分布恢复了现有的整数噪声理论，而浮点舍入的乘法分布将数据依赖性降低到标量（参与因子 $κ$），从而产生闭合形式的信噪比定律。由此产生的泛函还允许一个封闭形式的上限 $κ^{*}$，任何保留函数的线性变换都不能超过该上限，并且这是通过最近最先进的方法实现的。在此分析的基础上，我们引入了 KBBQ (\textbf{K}appa-\textbf{B}raked \textbf{B}lockwise \textbf{Q}uantization)，它参数化变换接近此上限的程度。在 W4A4 中，跨越四种基本模型和两种 FP4 格式，KBBQ 的性能优于现有技术，无需额外的部署时间计算。