模型
Granite Switch 4.1开放8B与30B模型,在同一端点组合生成、决策和语音转写
Granite Switch 4.1: Chat, Decisions, and Speech from One Endpoint
概述
Granite Switch 4.1提供8B和30B版本,以Apache 2.0许可开放。模型围绕共享底座组织可激活LoRA,默认组合通用Decision适配器、Guardian判断适配器,以及面向语音转写的编码模块。应用可在一个托管端点中请求自然语言回答、具有规定类型的判断与对应概率,以及语音转写,开发者也可组成自己的适配器集合。可激活LoRA利用调用标记切换行为,并复用合适的前缀缓存;各模块并非一个同时联合训练的全能能力,默认语音识别主要面向英语。官方提供模型、Granite Libraries及部署说明,上下文支持128K。具体服务吞吐、判断质量与语音成绩应按所选模块和工作负载核对。