多智能体回声室背后的社交回路

语言模型Agent交换消息以合并证据，但它们的通信也会产生回声室，从而强化共同的错误。然而，总体任务性能并不能解释消息如何改变接收Agent的内部激活并影响其决策。在这项工作中，我们引入了 Social Circuits，这是一个通过接收者激活来跟踪消息效果的框架。我们比较更改消息之前和之后接收者的答案。然后，我们恢复原始消息下记录的选定激活，以确定这些激活再现了多少消息效果。基于社交回路，我们提出了回路引导审议（CGD），它学习使用接收者激活变化来选择有用的消息。我们确定激活替换何时保留接收者的决策，并限制 CGD 的任务性能与通过消息选择可实现的最佳性能之间的差距。实验表明，接收者激活的变化可以解释消息效应并指导消息选择，从而提高任务性能。在三个模型和四个数据集上，CGD 在我们的主要比较中实现了最高或联合最高的平均准确度，同时生成的标记比多智能体基线更少。