结构化输出使44个语言模型的答案更加趋同

当语言模型需要从许多同样有效的选项中选择答案时，“只用JSON回答”这样的格式要求也会改变其选择。论文重做One-Word Census实验，向44个模型提出31类答案空间较大的问题，要求JSON回复，但不强制Schema、不使用约束解码。在“选一个词”这一开放问题中，最常见答案所占比例从41%升至64%，不同答案数量从52降至36；平均答案选择惊讶度从1.80降至1.58比特。 44个模型中有6个的变化单独达到BH-FDR q=0.10阈值，均转向最常见答案，原本较有特色的模型变化更明显；原本就趋同的模型基本不变。JSON主要强化已有集中趋势，而非重排答案偏好：31类问题中28类保留了普通聊天时的最常见答案。同一运行内的重复采样（n=20）发现，JSON改变了53%的稳定聊天默认答案，多数转向常见选项，也出现聊天时没有的默认答案。例如Claude Fable 5在聊天模式中从不以cerulean回答颜色问题，在JSON模式中则始终这样回答。 全套对照测试发现这种影响与表达格式有关：模型训练中常见的答案交付格式显著降低多样性，JSON减少0.22比特（p=.0002），XML减少0.19比特（p=.002）；YAML和CSV没有这一效果，任意括号包装则反向增加0.13比特（p=.009）。这使作者倾向于将机制与工具使用后训练联系起来。在解码器中强制Schema（response_format）没有带来超出普通格式要求的进一步压缩，差异为-0.03比特。答案趋同主要来自模型对表达格式的响应，而非解码器约束。因此，软件所用的结构化输出接口，其答案表现可能比通常用于比较和选择模型的聊天接口更同质化。