LLM 生成的针对全球多数民族的叙述中的代表性危害

大语言模型 (LLM) 越来越多地用于文本生成任务，从日常使用到高风险的企业和政府应用，包括对寻求庇护者的模拟访谈。虽然许多作品强调了 LLM 的新潜在应用，但 LLM 编码存在风险，并且存在对全球非主流社区造成有害偏见的风险。为了更好地评估和减轻此类危害，需要进行更多研究来检验 LLM 如何描绘不同的个体。在这项工作中，我们研究了广泛采用的 LLM 如何响应开放式叙事生成提示来描绘民族血统身份。我们的研究结果表明，民族血统持续存在代表性伤害，包括有害的刻板印象、抹杀和对全球多数身份的一维描绘。少数民族身份同时在权力中立的故事中代表性不足，而在从属角色描绘中则过多，这些角色出现的可能性是主导描绘的五十倍以上。当输入提示中出现美国国籍提示（例如“美国人”）时，伤害程度会放大。值得注意的是，我们发现我们发现的危害不能通过阿谀奉承来解释，因为即使在提示中用非美国国家身份替换美国国籍线索时，以美国为中心的偏见仍然存在。根据我们的发现，我们呼吁通过以全球多数观点为中心的方法，进一步探索 LLM 中的文化危害，并挑战不加批判地采用美国 LLM 对地球大多数人进行分类、监视和歪曲的做法。