模型

MiniCPM-V 4.7开放1B与35B-A3B权重,以专家预取支持手机低内存推理

端侧多模态新上限,350 亿参数 MoE 手机平板 3GB 内存畅跑,MiniCPM-V 4.7正式开源

模型优化模型架构AI 基础设施MoE量化端侧模型模型部署

概述

面壁智能与OpenBMB发布MiniCPM-V 4.7系列,包含1B稠密模型和总参数35B、每次激活约3B参数的MoE模型,支持单图、多图、视频和文档理解。模型配套推理及微调代码、模型卡和权重已公开,模型卡声明Apache-2.0许可。两个规模按同一系列发布记录,量化版本不重复计数。 35B版本引入LES(Lookahead Expert Scheduling)专家预取:在当前层计算期间预测并提前加载下一层可能用到的专家,减少计算等待。预测只影响加载顺序,实际路由仍由模型决定;未命中的专家仍按需加载。分层混合量化进一步降低运行资源需求,与专家预取是不同的机制。厂商报告特定手机和平板配置可使用约3GB运行内存,这不代表完整权重只有3GB,也不代表所有设备都能获得相同速度。 系列还提供视觉token压缩、推测解码及自生成回放数据微调方案。模型卡与厂商评测涉及多种理解任务,使用者可结合图像、视频和长文档任务验证实际效果;本次不把厂商评测排名泛化为所有视觉任务结论,也不将回放微调记为智能体递归自我改进。