论文
当真相被传播时:错误信息使基于 LLM 的多代理系统中的集体事实恢复脱轨
When Truth Is Distributed: Misinformation Derails Collective Fact Recovery in LLM-Based Multi-Agent Systems
摘要
基于 LLM 的多智能体系统承诺有效的协作推理,但通信可能会将局部错误放大为集体风险,而现有的评估强调最终结果,但它们使分布式信息聚合的可靠性和传播动态不清楚,因此我们引入了 ForesightSafety-TIDE,一种受控评估框架,它将全诚实协作与关键证据持有者的受控欺骗严格配对,并通过多阶段投票、证词采用和证据根谱系传播来分析聚合过程,并使用 120在五代理对象移动环境中,部分观察共同确定一个唯一的端点,我们评估了 3 个同质的基于 LLM 的多代理系统,在这些配对条件下,总真相恢复率从 72.50% 下降到 14.17%,每个系统都有显着下降,而进程跟踪和退出消融表明,单个虚假证词比真实证词更容易被采用,传播到更高的订单,并在欺骗者之后通过诚实代理持续存在缺乏第一手证据的观察者压制了不正确的共识,但并没有改善真相恢复,因此,这些发现共同揭示了分布式事实恢复的脆弱性及其潜在机制:虚假证据通过其采用和进入通信后被其他主体继续传播而获得集体影响力。