论文

提示身份会降低多Agent LLM 系统中的合作

Prompted Identity Degrades Cooperation in Multi-Agent LLM Systems

智能体系统Agent 协作

摘要

多Agent LLM 系统越来越多地混合来自多个提供商的模型,但将每个Agent的底层模型身份暴露给同行会严重损害合作。我们表明,当智能体知道彼此的模型系列时,该组会分裂成集群,其中智能体更喜欢与带有相同标签的其他人交互,尽管任务中没有任何奖励或要求这样的分裂。我们认为标签本身导致了这种分裂,我们将其定义为$派系主义$。我们在两个合作游戏和推理基准上展示并测量了这种现象,从最多五个开放权重模型系列中抽取了九到二十五个Agent。我们进一步表明,当公布的家族被洗牌或被任意标签取代时,派系仍然遵循这一信息;当标签被移除时,这种行为就会消失。在严格合作的任务中,标记组平均多花费 $30\%$ 轮次和 $55\%$ 词元来做出决定,他们的成功率从 $96\%$ 下降到 $81\%$。这种效果会在任务、小组规模和模型系列之间复制。向Agent扣留身份标签是简单而有效的缓解措施。