用于 Wan2.2-I2V-A14B 上推理的 W4A4 量化

我们总结了我们向 ICME 2026 低位宽大型模型量化挑战赛的子挑战 1：W4A4 推理量化 (HiF4 / MXFP4) 提交的内容。子挑战的目标是 HiF4 或 MXFP4 数值格式下的 Wan-AI/Wan2.2-I2V-A14B 上的 4 位权重和 4 位激活推理。我们采用了 LLM 量化中的两种互补思想，用于稀疏激活异常值的 MixQ 式混合精度和 SmoothQuant 式每通道平滑，以及用于 Wan2.2 前馈线性层的块式 HiF4 打包。对代表性 OpenS2V-5M 批次进行校准，识别重尾激活通道；平滑在 W4A4 舍入之前重新平衡动态范围；双分支 GEMM 以更高的精度保留离群值列，而大部分通道使用严格的 W4A4。在官方 VBench I2V 指标上，我们的管道在大多数质量轴上保持在 FP16 的 2-3.5% 范围内，并提高了运动平滑度，优于本机 HiFloat4 基线，后者在所有报告的分数中相对于 FP16 下降了大约 5%。