开源项目

localai-org发布apex-quant MoE混合精度量化实现

localai-org/apex-quant

概述

localai-orgapex-quant仓库,属新工程发布。该项目为MoE混合精度量化方法的官方代码,将技术报告中的方法形成可运行量化工程,含量化脚本、依赖说明和完整流水线命令。采用MIT许可。