论文

P3B3:LLM 中测量欧洲和巴西葡萄牙语品种偏差的多轮会话基准

P3B3: A Multi-Turn Conversational Benchmark for Measuring European and Brazilian Portuguese Variety Bias in LLMs

模型评测鲁棒性、公平性与可信度评测

摘要

随着 大语言模型 (LLM) 融入日常交流,捕捉区域语言差异对于可靠和公平的语言使用至关重要。在葡萄牙语中,欧洲 (pt-PT) 和巴西 (pt-BR) 变体的代表性仍然不均衡,其中 pt-BR 在数据量上占主导地位,而 LLM 对葡萄牙语变体的偏好仍未得到充分探索。为了解决这一差距,我们引入了 P3B3,这是一种专家策划的与语言多样性无关的对话提示基准,以及用于衡量多样性偏差和可控性的评估框架。对多个模型的实验表明,大多数 LLM 对 pt-BR 表现出强烈的偏见,并且不同模型的可控性存在差异。这些结果凸显了跨语言品种更平衡的多语言表示的需要。