沙丘社区
论文

Edu-MMBias：面向教育情境下视觉-语言模型社会偏见审计的三层多模态基准

Edu-MMBias: A Three-Tier Multimodal Benchmark for Auditing Social Bias in Vision-Language Models under Educational Contexts

Ruijia Li, Mingzi Zhang, Zengyi Yu, Yuang Wei, Bo Jiang
模型评测基准与评测资源

摘要

随着视觉-语言模型（VLM）成为教育决策不可或缺的组成部分，确保其公平性至关重要。然而，当前以文本为中心的评估忽视了视觉模态，为潜在社会偏见留下了一条不受监管的通道。为弥合这一差距，我们提出Edu-MMBias，一个立足于社会心理学态度三成分模型的系统化审计框架。该框架在认知、情感与行为三个层级维度上诊断偏见。利用融合自我纠错机制与人机协同验证的专门生成流程，我们合成抗污染的学生画像，对最先进的VLM进行全面压力测试。我们的广泛审计揭示了关键的反直觉模式：模型表现出偏向弱势叙事的补偿性阶层偏见，同时怀有根深蒂固的健康与种族刻板印象。至关重要的是，我们发现视觉输入充当了安全后门，触发偏见绕过基于文本的对齐防护而再度抬头，并揭示潜在认知与最终决策之间的系统性失调。本文的贡献可在以下链接获取：https://anonymous.4open.science/r/EduMMBias-63B2。

Edu-MMBias：面向教育情境下视觉-语言模型社会偏见审计的三层多模态基准：论文配图
图1：Edu-MMBias多维分类体系：覆盖性别、种族、社会经济地位、爱好与健康五类，系统性审计VLM教育情境下的潜在偏见。