Soro：面向塔吉克语的轻量级基础模型与聊天机器人

我们提出Soro，一系列塔吉克语专用的对话式大语言模型（LLM），为在塔吉克斯坦紧张算力与网络连接约束下的真实部署而设计。从开源权重的Gemma 3检查点出发，我们在一个精选的19亿词元语料库上进行仅塔吉克语的持续预训练，语料涵盖过滤后的网页文本、PDF文档以及与课程大纲对齐的教育材料，随后在40K条塔吉克语教师风格示例上进行监督式指令微调。鉴于标准基准对塔吉克语的覆盖有限，为支持严格评估，我们推出一套覆盖通用知识、语言能力以及中小学与大学入学考试领域的塔吉克语基准，并在Hugging Face上开源。在这些塔吉克语基准上，Soro大幅超越同等规模的Gemma 3基线，同时在标准数据集上保持强劲的英语性能。我们进一步表明，对Soro进行FP8与INT4量化可在降低边缘部署内存需求的同时保留大部分塔吉克语收益，支撑正在进行的教育行业试点以及计划在塔吉克斯坦各学校间的推广。