论文

VisionMX:解锁视觉模型的微缩放后训练量化

VisionMX: Unlocking Microscaling Post-Training Quantization for Vision Models

摘要

微缩放(MX)格式正成为硬件支持的高效训练与推理方法:以共享块尺度组合低精度元素,但其对视觉模型的影响仍待探索。我们系统考察视觉模型与任务上的后训练MX量化。对直接转换的分析识别三个误差来源:块尺度表示、部分小卷积权重张量与非均匀元素网格的对齐不良、以及非负激活对带符号码的欠利用。这些发现促成了VisionMX——优化有界权重舍入并对激活施加可折叠仿射校正的后训练MX量化方法。我们用多种MX风格格式在图像分类、目标检测、语义分割与低光增强上评估:VisionMX改善直接转换与受评PTQ基线,最大性能恢复出现在对MX转换最敏感的架构中。