开源项目

Transformers 5.19.0 接入 EmbeddingGemma 2 并修正分布式与批处理行为

Release v5.19.0

AI 基础设施模型架构MoE模型服务框架

概述

Transformers 提供预训练模型的加载、训练和推理接口。5.19.0 增加 EmbeddingGemma 2 等支持,并修正不启用专家并行时仍需要的 MoE 分派路径,使张量并行设置能够正确工作;连续批处理涉及取消前缀后的分页缓存处理,以及不同层缓存结构不一致的情况。视觉路径还修正 OWLv2 objectness 与查询处理问题。采用时应固定本次发布版本,按模型、注意力实现和批处理配置核验输出。此次工程兼容性与 EmbeddingGemma 2 模型发布分别作为不同对象记录,不把库适配描述成模型能力提升。