论文

Sometin Beta Pass Notin:通过 知识蒸馏 改进尼日利亚语言的多语言 ASR

Sometin Beta Pass Notin: Improving Multilingual ASR for Nigerian Languages via Knowledge Distillation

摘要

尽管现代多语言自动语音识别 (ASR) 系统支持多种尼日利亚语言,但其性能始终落后于英语和法语等资源丰富的语言。尼日利亚语言存在独特的建模障碍,包括严重的数据匮乏、拼写不一致、音调变音符号、不同的口音、频繁的语码转换和本地化的命名实体。为了应对这些挑战,我们使用两阶段 蒸馏 流程开发了多语言 ASR 框架。首先,我们从现有的单语言模型中雇佣了学生-教师 知识蒸馏,以强大的特定于语言的 N-gram 语言模型为条件。其次,我们使用伪标记数据进行迭代自我改进,以进一步提高准确性。我们的方法显着缩小了性能差距,与单语言基线相比,相对字错误率 (WER) 平均降低了 29%。我们的模型在主要基准测试中的表现也优于最先进的多语言模型,包括 Common Voice 和 FLEURS。我们推出 Sometin Beta Pass Notin (SBPN),这是一种多语言基础 ASR 模型,涵盖约鲁巴语、豪萨语、伊博语、尼日利亚洋泾浜语和尼日利亚英语。