开源项目MNN:提供端侧图像编辑量化部署链路alibaba/MNNalibaba·来源日期:2026.04.21AI 基础设施模型优化量化端侧模型模型部署收藏概述MNN 是端侧推理框架,为移动设备部署语言、视觉和生成模型提供转换与执行能力。 此次MNN-Sana-Edit-V2链路将LLM、VAE和DiT放在本地运行;权重经ONNX转MNN,语言部分采用4bit非对称量化,其余采用8bit,在真机验证图像编辑。 端到端耗时对应具体手机、分辨率和模型。应同时核对转换算子支持、量化精度与设备资源,不能把一种设备的延迟直接作为其他终端指标。