LLM 代理的社交网络

大语言模型 (LLM) 智能体越来越多地部署在互动人群中，引发了这些人群集体相信什么的问题。一个群体是否聚合了真正的知识，还是陷入了错误的共识，直接影响到这些系统的可信度。经典的社交网络模型假设网络本身决定了信念如何结合。对于 LLM 智能体来说，这种假设不成立，它们有限的注意力仅集中在他们所接触到的部分内容上，因此这些模型夸大了群体实际汇集的信息量，并且无法区分真正的共识和羊群效应。我们引入了 SNLA，这是一个框架，它可以模拟每个智能体对其他智能体的实际影响程度，而不仅仅是网络如何连接它们。这种影响取决于每个智能体在网络中的位置以及注意力的集中程度。从理论上讲，我们在一个易于处理的代理上证明，狭隘注意力会导致羊群效应，其中无论人口规模如何，有效样本量都保持有限，而广泛注意力仅在暴露图无向且程度正则时才能恢复群体智慧行为。根据经验，受控测试台直接验证这些预测，并且羊群智慧转换在三个多智能体 LLM 基准的操作员控制变体上重现。