论文

考察多智能体系统中智能体的偏差放大与抑制

Examining Agents' Bias Amplification versus Suppression in Multi-Agent Systems

模型评测鲁棒性、公平性与可信度评测

摘要

多智能体系统正被日益广泛地部署以支持各类任务,其中智能体通过交互实现个体与集体目标。尽管这些系统能提升任务表现与决策质量,通过削减偏差来维护公平性仍具挑战。本研究考察智能体层面的偏差如何迁移并影响系统级公平性。我们用提示使个体智能体暴露于偏袒性偏差,然后在系统层面评估其下游影响。为量化这种影响,我们提出Favor Bias Strength(FBS),一个以零为中心的度量,将偏差变化分解为受偏袒群体的提升与被贬低群体的压制。借助多种智能体设计、基准与最新大语言模型,我们表明被赋予偏差的智能体能显著影响系统级公平性。有趣的是,当智能体被均匀地暴露于偏差时,系统级偏差会升高,甚至超过各智能体个体偏差的加和。这些实证证据凸显了多智能体系统中公平性的关键地位,值得进一步分析与实证检验。

考察多智能体系统中智能体的偏差放大与抑制:论文配图
图1:三种决策流水线概览,用于考察多智能体系统中个体偏见被放大或抑制的行为差异。