超越匿名的公平性？德国大语言模型生成的简历中的人口流失

大型语言模型 (LLM) 越来越多地集成到人工智能辅助的招聘流程中，包括自动简历生成和筛选。根据欧盟人工智能法案，招聘领域被归类为高风险，这使得公平和透明度成为关键要求。现有的工作主要集中在明确的招聘决策上，而较少关注生成的简历本身是否编码可恢复的人口统计信息。在这项工作中，我们对德语大语言模型生成的简历中的人口统计泄漏进行了两阶段审计。首先，我们使用 ChatGPT (GPT-4o-mini)、Gemini 2.5 Flash-Lite 和开放权重 Qwen 3 模型系列的多个尺度（4B、8B 和 14B）根据真实的匿名工作匹配资料生成简历，系统地改变与性别和种族相关的姓名，同时保持资格不变。其次，我们模拟下游简历筛选场景，其中生成的简历首先进行匿名化和性别中立，然后再对生成的文本进行人口统计泄漏分类器的训练。我们发现，尽管有这些干预措施，分类器仍能可靠地区分以男性和女性名字生成的简历。这种泄漏并不是由明显的性别措辞造成的，而是由德语中语义等效、形式上的性别中立术语的使用中的细微差异造成的。相比之下，各个模型中与种族相关的泄漏仍然相对较弱。我们的研究结果表明，表面上中立的简历生成仍然可以保留高度预测的人口统计信号，引起人们对多语言人工智能招聘渠道中基于匿名的公平干预的担忧。