消息容量和主张措辞设定了语言模型网络中集体真相发现的过渡点

无论是人类还是大型语言模型 (LLM)，讨论中的代理仅会阅读其他人的一些贡献，受到认知、上下文或成本的限制。即使大多数人一开始是正确的，大语言模型集体也可能会达成错误的共识；我们问，阅读界限在多大程度上决定了结果。我们用一个数字（消息容量）对边界进行建模，它设置代理读取其他消息的数量，并从中生成通信网络。通过 31,824 个随机查询，我们发现 80 亿参数模型对索赔的判断有效地简化为其收件箱加权和的逻辑函数，即具有除法归一化权重的随机二元神经元的更新规则。仅从这些权重和网络的程度统计数据来看，一旦智能体平均阅读了 31 个来源中的 6.4 个以下，从一开始就不可能达成错误的共识。在 1,414 个指定开始的回合中，预测失败了：每次开始时，正确的一方获胜的概率不到 50%，而当 75% 的特工开始正确时，只有 28-45% 的回合获胜。失败可以追溯到字段，即在读取任何消息之前声明的措辞为代理的答案设置的阈值：实验声明的字段低于校准平均值，并且每个声明自己的字段相同的权重再现结果。颠倒措辞表明，阈值遵循的是主张的内容，而不是它是否属实。在第二个 8B 模型上，管道预测依赖于声明的双稳态；转变点出现在计算的位置，并且八项声明校准与 16 种条件中的 15 种相匹配。在 70B 处，未检测到断言偏差。因此，一个集体的命运很大程度上取决于两个单一主体的衡量标准：声明的措辞设置的阈值，以及设置转换点的消息容量。