注意税、交接税：多智能体LLM系统帮助时的程式化模型

最近对多智能体LLM系统的研究得出了截然不同的结论：一些结果表明，具有相同信息和计算的单个智能体应该在委托系统中占主导地位，而另一些结果表明，多智能体的收益随着任务深度的增加而增长。我们认为，大部分分歧来自于对不同瓶颈的建模，并引入了围绕两个权衡建立的程式化可靠性模型。分解减少了长上下文的负担，但在智能体之间压缩或传输信息时会产生切换税。冗余可以从多个样本中获益，但其好处取决于它们的故障被共享的程度。添加推理预算、验证和任务结构后，该模型产生两个交叉条件：一旦通过重置上下文避免的注意力成本超过切换成本，分解就变得更可取，而当其共享故障底线低于一个智能体思考时间更长的错误底线时，同等预算的并行采样最终更可取。我们将这些制度与最近的理论和实证结果联系起来。在账本协调任务中，我们测量上下文降级曲线以及来自单个智能体的切换税和单独的切换运行。从这些模型中，模型将交叉置于深度 10 处，并预测分解会在深度 20、50 和 100 处获胜。在步级和最终平衡精度方面确实如此，并且分解系统的成功率（预测从未见过）在每个深度的预测率相差 9 个百分点以内。