论文

利用议会投票记录揭示大语言模型的政治偏见

Uncovering Political Bias in Large Language Models using Parliamentary Voting Records

模型评测鲁棒性、公平性与可信度评测

摘要

随着大语言模型(LLM)深度嵌入数字平台与决策系统,对其政治偏见的担忧不断增长。虽然性别、种族等社会偏见已获大量研究,政治偏见的系统研究仍然有限,尽管其具有直接的社会影响。本文提出一种构建政治偏见基准的通用方法:将模型生成的投票预测与经核实的议会投票记录对齐。我们在三个国家级案例中实例化该方法:PoliBiasNL(荷兰15个政党2,701项动议与投票)、PoliBiasNO(挪威9个政党10,584项动议与投票)与PoliBiasES(西班牙10个政党2,480项动议与投票)。在这些基准上,我们评估LLM行为中的意识形态倾向与政治实体偏见。作为评估框架的一部分,我们还提出一种方法,通过把基于投票的立场关联到CHES(Chapel Hill Expert Survey)维度,在共享的二维CHES空间中可视化LLM与政党的意识形态,实现模型与真实政治行为者之间直接、可解释的比较。实验揭示细粒度的意识形态区分:最先进LLM持续显示左倾或中间倾向,并对右翼保守政党存在明显负偏见。这些发现凸显了扎根于真实议会行为的透明、跨国评估对理解与审计现代LLM政治偏见的价值。

利用议会投票记录揭示大语言模型的政治偏见
图1:(左)基于政治学中 CHES 分数的政党意识形态定位,其中 Left–Right(左右)轴刻画经济意识形态,GAL–TAN 轴表示从 Green/Alternative/Liberal(绿色/另类/自由)到 Traditional/Authoritarian/Nationalist(传统/威权/民族主义)的社会文化价值观。(右)三个数据集上 LLM 与政党之间的投票一致性。x 轴上的政党按从左翼进步到右翼保守的意识形态排序。