低资源语言机器翻译的多镜头上下文学习实证研究

上下文学习 (ICL) 允许 大语言模型 (LLM) 适应几个示例中的新任务，这使得它对于 预训练 中代表性不足的语言很有希望。最近对多样本 ICL 的研究表明，现代 LLM 可以进一步受益于由长上下文窗口启用的更大的 ICL 示例。然而，这种收益取决于仔细的示例选择，并且推理成本对于资源匮乏的语言社区来说可能会令人望而却步。在本文中，我们提出了一项针对从英语到最近添加到 FLORES+ 的十种真正低资源语言的机器翻译的多镜头 ICL 的实证研究。我们分析了检索更多信息示例、使用域外数据以及按长度排序示例的效果。我们的研究结果表明，随着示例数量的增加，多次 ICL 变得更加有效。更重要的是，我们表明基于 BM25 的检索显着提高了数据效率：50 个检索到的示例大致匹配 250 个多镜头示例，而 250 个检索到的示例与 1,000 个多镜头示例的性能相似。我们进一步表明，ICL 在 微调 的基础上提供了额外的收益。