论文
CAT-Translate:构建紧凑的日英翻译开源模型
CAT-Translate: Building Compact Open-Source Models for Japanese-English Translation
摘要
如今,大型多语言翻译模型在机器翻译基准测试中展示了令人印象深刻的翻译能力。这向开发人员提出了一个实际问题:如果您只需要支持特定语言对,是否值得开发专门针对该语言对的翻译模型?为了给出这个问题的轶事答案,我们开发了一系列专门用于日英双向翻译的小语言模型(0.8B、1.4B、3.3B 和 7B 参数)。我们采用两阶段监督 微调 方法,然后采用多目标 GRPO(Ichihara 等人,2025)在综合生成的并行语料库上训练模型。我们根据 WMT 和商业、法律、医疗、金融和专利领域的真实翻译基准来评估我们的模型。虽然多语言模型在 WMT 基准上取得了强劲的性能,但我们的紧凑模型在现实世界的基准上优于它们,这表明即使在大型多语言模型时代,开发专门的翻译模型也具有实用性。