North Small Translate：高级高性价比翻译（Cohere CAT+）

我们推出了 North Small Translate，这是一种基于 LLM 的开放式机器翻译 (MT) 模型，具有指令跟踪功能，与 Cohere 的 Command A Plus 建立在相同的基础上，这是一种专家混合架构，在 2180 亿个总参数中拥有 250 亿个活动参数。 North Small Translate 使用难度采样进行训练，以获得具有挑战性的文档，并使用结合了监督微调、直接偏好优化和在线强化学习的五步训练协议。我们通过非推理基础模型优先考虑吞吐量，并辅以可选的代理功能来解锁翻译质量的提高。 North Small Translate 经过训练可以执行 MT 相关任务，包括译后编辑和质量评估，以及一般指令遵循等相关任务。该模型在 1T 参数下的模型类别中实现了跨 50 种语言的顶级 MT 性能，并且无需在推理时运行昂贵的推理。