论文

大模型难以在受控环境中模拟人类信念更新

LLMs struggle to simulate human belief updates in controlled environments

模型评测模型能力评测

摘要

大语言模型日益作为社会科学实验中人类参与者的替代,但其模拟真实性很少被直接检验。研究测试六种大模型能否模拟个体信念更新,将模型输出与 Prolific 上 391 名英国参与者的真实数据逐一比较。这些参与者阅读 Reddit 评论后,更新了对三个讨论主题的立场。每个参与者的模拟使用由其人口统计信息和人格特征构成的角色条件。部分模型如 Qwen3-32B、GPT-5-Mini 能匹配人类讨论后的立场分布,但仅限给定参与者真实初始立场的情况。六种模型均不能可靠模拟初始立场,也不能从自行生成的立场产生忠实的信念更新。全部模型呈现三种系统性偏差:中立立场过多,立场变化比人类更频繁但幅度更小,以及不能按说服力给评论排序。人口统计与人格角色设定没有稳定改善真实性。结果表明,这类模拟依赖真实起始条件,而当前多轮社交媒体模拟往往不具备该条件。