开源项目

Transformers 修正反量化模型重新保存时的权重格式

Save dequantized models without the quantizer's weight conversions

模型优化AI 基础设施量化模型部署模型服务框架

概述

此前加载后清除了量化配置,但保存仍反用旧量化器的转换逻辑,会生成无法正确加载的 MXFP4 或 FP8 检查点。合入统一清除旧转换器,官方 PR 对两类复现用例验证了重新加载的输出一致。