模型

LLaDA2.2-mini 开放扩散 MoE 模型权重

LLaDA2.2-mini

模型优化模型架构MoE小模型/轻量模型

概述

LLaDA2.2-mini 采用扩散生成与 MoE 路线:总参数描述模型整体规模,激活参数描述一次计算实际使用的部分,两者不能混作同一指标。 开放LLaDA2.2-mini扩散MoE模型,总参数16B、激活参数1.4B。