论文

规范共识复制(NormCoRe):面向多智能体AI规范研究的转译式复制

Normative Common Ground Replication (NormCoRe): Replication-by-Translation for Studying Norms in Multi-agent AI

模型评测评测方法与指标

摘要

2010年代后期,时尚潮流NormCore将相同性诠释为归属感的信号,展示了规范如何经由集体协调而生。今天,在基于多智能体人工智能(MAAI)的系统中可以观察到类似的规范性协调形式:AI智能体在公平敏感领域中审议、协商并就共同决策达成一致。然而,现有实证方法常常将规范视为对齐或复制的目标,隐含地假设人类被试与AI智能体等价,对集体规范动态的考察并不充分。为填补这一空白,我们提出规范共识复制(NormCoRe),一个将人类被试实验设计系统性转译到MAAI环境的新型方法论框架。立足行为科学、复制研究与最先进的MAAI架构,NormCoRe将人类被试研究的结构层次映射到AI智能体研究的设计中,支持对研究设计的系统化记录以及对MAAI中规范的分析。我们通过复制一项关于分配正义的开创性实验研究来展示NormCoRe的效用,该研究中参与者在“无知之幕”下协商公平原则。我们表明,AI智能体研究中的规范性判断可能不同于人类基线,并对基础模型的选择以及实例化智能体人设所用语言敏感。我们的工作为分析MAAI中的规范提供了有原则的路径,并在AI智能体被用于自动化或支持以往由人类承担的任务时,帮助引导、反思和记录设计选择。

规范共识复制(NormCoRe):面向多智能体AI规范研究的转译式复制:论文配图
图 1. 从人类群体到多主体人工智能:NormCoRe 将复制概念化为翻译问题,将人类受试者研究映射到人工智能主体研究,以研究集体规范判断(例如公平性)如何在不同人群中出现和不同。