模型

AI21 发布混合架构 Jamba2 家族并开放权重

Jamba2 模型家族发布

模型架构MoE混合架构

概述

Jamba2 是 AI21 Labs 发布的模型家族,核心特征是采用 SSM 与 Transformer 的混合架构,包含 3B 稠密模型和 Mini 混合专家模型(总参数 52B、激活 12B),上下文长度 256K。官方披露本次更新企业问答、依据材料回答和指令遵循能力。模型开放权重下载,许可为 Apache 2.0,同时提供 AI21 Studio 使用入口;文本输入、文本输出。