迷失在巴别塔中：LLM 中偶然使用多种语言的不利影响

本文认为，当代多语言自然语言处理已经趋向于一种脆弱且具有误导性的偶然多语言范式。今天的 LLM 出现多语言很大程度上是因为它们接受了庞大的、不均匀的网络语料库的训练，而不是因为多语言或多文化能力已被视为核心设计目标。我们认为，这种范式系统地产生跨语言的不平等、脆弱和不透明的行为，在现实世界和代理部署中产生严重后果，其中模型必须跨多种语言环境进行推理、计划和行动。我们报告了对两个实际问题的重点实证研究：哪些语言对自我报告进行了支持建模，以及他们在多语言提示中实际响应哪些语言。我们还演示了即使是简单的语言更改攻击也可以暴露这些故障并暴露基于 LLM 的系统中有关语言的隐藏假设。为了解决这个问题，我们呼吁从设计上转向多语言：一项研究议程，将公平的多语言表现、文化基础和跨语言行为理解视为模型管道各个方面的首要目标。