良性多智能体系统中的错误信息传播

多智能体系统，其中多个 大语言模型 智能体通过回合交互解决问题，越来越多地部署在医疗诊断、法律分析和法医决策等高风险环境中。当单个代理根据不正确或误导性的上下文（例如工具调用）进行推理时，它们的可靠性可能会受到威胁，因为错误可能会通过代理交互传播。这项工作通过将基于意图的错误信息注入到推理、知识和对齐任务的良性单代理和多代理系统中来研究这种风险。我们发现错误信息会降低单智能体的性能，并且在多智能体辩论中持续存在，智能体通常会保留被错误信息的同伴引入的答案。然而，与单代理提示相比，多代理辩论减少了由此产生的性能下降，特别是当大多数代理没有接触到错误信息时。稳健性取决于群体组成和决策协议。共识可能比在同伴压力下投票更稳定，而多数人往往可以引导信息错误的智能体回到正确的答案。我们的结果表明，多智能体系统中错误信息的稳健性取决于底层模型以及智能体如何交换信息和汇总决策。