受污染的协作：测量 LLM 辅助学生写作中的性别偏见转移

LLM 中的性别偏见在模型输出中得到了广泛研究，有偏见的提示被证明会放大刻板印象的世代。然而，这种偏见是否会传播到使用这些系统的人类生成的文本中，仍有待探索。我们调查了 LLM 写作助理中的性别偏见是否会转移到学生撰写的职业规划论文中。我们首先验证性别偏见提示会在 LLM 生成的论文中引发性别差异的语言，而中性提示则不会。然后，我们在受控环境中招募参与者（N = 123），在三种条件下为仅性别不同的配对传记资料撰写职业规划文章：没有人工智能帮助、中立的 LLM 帮助或有性别偏见的 LLM 帮助。与对照组和中性条件下的学生相比，处于偏见条件下的学生撰写的论文具有明显更大的主体差距和更多的性别刻板印象职业建议。我们的结果还表明，这种偏见转移是不对称的：女性目标论文中的代理受到抑制，而男性目标写作基本上不受影响。我们的研究结果强调了人工智能辅助写作中偏见传播的风险，呼吁在教育人工智能工具中进行具有公平意识的设计。