论文

大语言模型 中的机构声望作为地理偏差:来自三个带有 Bootstrap 置信区间的阶乘实验的证据

Institutional Prestige as Geographic Bias in Large Language Models: Evidence from Three Factorial Experiments with Bootstrap Confidence Intervals

模型评测鲁棒性、公平性与可信度评测

摘要

我们调查 大语言模型 (LLM) 是否在基于申请人姓名、种族和/或机构声望和地理位置的候选人评估中系统性歧视。报告了三个阶乘实验(4,320 个 API 调用、四个 LLM、五个专业领域)。研究 1(3x4 设计)发现,在 10 分制中,统计上稳健的机构层级梯度为 +0.297 分(95% 引导 CI:+0.175 至 +0.422),而名称来源效应可以忽略不计且不显着(95% CI 跨越零)。研究 2(2x2 声望 x 国家设计)打破了声望-地理混淆:声望效应(+0.185;95% CI:+0.093 至 +0.275)超过原产国效应(+0.126;95% CI:+0.037 至 +0.218)1.5 倍。研究 3(2x2 期刊 x 机构设计)显示,期刊声望(《自然》与外围开放获取期刊)主导机构声望 5.7 倍:期刊效应 +1.937(95% CI:+1.811 至 +2.062)vs 机构效应 +0.341(95% CI:+0.184 至 +0.504)。 “救援效应”得到证实:瓜亚基尔大学 (+2.127) 的候选人比麻省理工学院 (+1.745) 的候选人在《自然》杂志上发表论文更能弥补机构声望较低的问题。使用中智偏差指数 NBI<T,I,F> 对结果进行量化; I 部分揭示了对低声望形象的评估不一致程度较高,这是仅平均指标无法捕捉到的认知劣势。代码和数据:https://github.com/mleyvaz/geo-bias-LLM