模型

BAR:Ai2开放的模块化后训练模型系列

Ai2 开放 BAR 模型系列

概述

Ai2(Allen Institute for AI)发布 BAR(Branch-Adapt-Route)模块化后训练模型系列:以完全后训练的 Olmo 2 7B 为底座,分别训练数学、代码、工具使用和安全四个领域专家,再组成混合专家模型。发布物覆盖 7B 稠密模型、双专家版本、领域专用版本和五专家组合模型的检查点及代码,在 Hugging Face 开放获取。