论文

人工智能和人类科学家在理论构建方面展现出互补优势

Artificial intelligences and human scientists exhibit complementary strengths in theory building

模型评测模型能力评测

摘要

我们研究人工智能(AI)——特别是大语言模型(LLM)——相对于人类科学家在社会科学高级认知任务中的有效性,例如理论制定、新经验结果的预测以及根据新证据进行理论修正。研究领域是有关性别和种族不平等的学术话语。我们的研究结果将 25 名LLM与 13 名高级研究人员和 60 名博士学者进行了比较,结果表明,人工智能在目前的大多数任务上都优于大多数人类,而人类的理论更加多样化,并且通过聚合在预测准确性方面表现出更大的进步。人工智能生成的理论得到了更广泛的阐述,涉及额外的理论路径和潜在变量,并且被不了解来源的独立评估者评为比人类理论更高的质量。然而,这种理论复杂性在一定程度上是装饰性的,因为它与对数据经验模式的更准确预测无关。相比之下,人类科学家用更简单的理论实现了更高的预测效率。人工智能比人类科学家更有可能修改他们的理论以纳入新的证据;人类科学家以对先前预测错误敏感的选择性方式更新他们的信念。我们推测,人工智能卓越的处理能力使其特别适合需要应对复杂性的任务,但人类思想的更大多样性对于智慧群体和集体创造力至关重要。