中立性之咬：人工智能生成的动物故事中的性别表征

人工智能生成的故事中的性别偏见是一个有据可查的问题。尽管人们对减少或减轻这种偏见给予了很多关注，但干预措施是否能产生真正更公平的结果并不总是很清楚。为了研究这个问题，我们研究了 大语言模型 (LLM) 如何在一个流行的、高度模糊的、并且也紧密再现人类刻板印象的叙事背景下处理性别分配：关于会说话的动物的故事。我们提示六名主角 LLM 完成一个关于七个不同的拟人化动物角色的英语故事，这些角色的性别未说明。我们还迭代了四种不同的叙事设置和一系列模型温度。在 23.8K 个故事中，我们发现模型经常避免对故事中的动物角色进行性别区分（平均 19%）或使用中性语言，如“it”或“its”（平均 38.2%）。然而，当分配性别时，存在明显的男性偏见。女性动物角色几乎不存在，只出现在 2.2% 的故事中，而男性角色的故事则占 40.6%。我们的研究结果指向了一个更广泛的论点：中立性。换句话说，优先考虑中立性来解决社会偏见的模型实际上可能有助于消除边缘化的观点和身份。我们建议需要寻求超越中立性的替代策略，例如在想象的主体之间更平等地分配社会可能性的策略。