WARDEN：濒临灭绝的土著语言转录和翻译与 6 小时的训练数据

本文介绍了WARDEN，这是一种早期语言模型系统，能够将濒临灭绝的澳大利亚土著语言Wardaman转录并翻译成英语。我们面临的重大挑战是缺乏大规模的训练数据：事实上，我们只有 6 小时的带注释的音频。因此，虽然使用大型数据集（例如英语到法语）训练单个转录和翻译模型是常见的做法，但这种做法在 Wardaman 到英语的环境中不再可行。为了应对资源匮乏的挑战，我们设计了 WARDEN，使其具有独立的转录和翻译模型：WARDEN 首先将 Wardaman 音频输入转换为音素转录，然后将转录转换为英语翻译。此外，我们提出了两种有用的技术来提高性能。对于转录，我们从巽他语（一种与 Wardaman 共享相似音素的语言）初始化 Wardaman 标记，以加速转录模型的 微调。为了进行翻译，我们根据专家注释编译了 Wardaman-English 词典，并将特定领域的知识提供给 大语言模型 (LLM) 来推理和决定最终输出。我们凭经验证明，在极低的数据设置下，这种两阶段设计比需要大量数据的统一方法效果更好。仅使用 6 小时的注释数据，WARDEN 就超越了更大的开源和专有模型，并建立了强大的基线。数据和代码都可用。