论文
当英语不是最好的老师时:跨语言情境学习中的源语言效应
When English Isn't the Best Teacher: Source Language Effects in Cross-Lingual In-Context Learning
摘要
多语言 NLP 中的跨语言迁移已在有监督的 微调 环境中得到了广泛探索,其中数据可用性和语言相似性等因素在很大程度上决定了迁移质量。随着该领域转向小样本上下文学习 (ICL),人们通常认为 微调 的见解不会改变。然而,这一假设尚未得到严格评估,因此如何为跨语言 ICL 选择源语言的问题仍然悬而未决。我们对 ICL 中的跨语言迁移进行了广泛的实证研究,涵盖七项任务、六种模型和一组类型多样的语言。我们进一步分析了语言混淆,这是跨语言 ICL 生成任务的一个关键障碍。我们的结果表明,传统的基于 微调 的期望并不始终适用于 ICL 制度,并指出了有效选择源语言的替代启发式方法。