论文

“不太可能”有多不可能?评估 大语言模型 的言语概率感知

How Unlikely Is "Unlikely"? Assessing Verbal Probability Perception Across Large Language Models

模型评测鲁棒性、公平性与可信度评测

摘要

大语言模型 越来越多地生成和解释口头概率表达式,但这些表达式是否在模型之间具有一致的含义(或与人类对不确定性的感知相匹配)仍然未知。我们使用基于已建立的人类基准的单词到数字映射任务提出了系统的跨模型评估。在两种条件下向 19 个模型呈现 11 个不确定性表达式:强制单数响应和解释启发,以及新颖的内部一致性双向往返测试。 LLM 以令人惊讶的保真度跟踪人类基准:保留词序,恢复三个锚点,并且“可能”显示任何测试的表达的最高方差和跨模型分歧,与其记录的人类双峰解释一致。然而,模型对“不太可能”和“不可能”等负面表达表现出系统性的向上偏差。解释启发减少了模型内方差,同时增加了模型间分歧,以模型间共识为代价稳定了个体模型,往返实验揭示了清晰的分层,前沿模型保持了一致的双向表示。因此,LLM 再现了人类言语概率认知的结构,包括其偏差,同时在消极端系统地发散——这对人类和模型交换概率语言的任何环境都有影响。