分解买的是完整性,而不是产量
Decomposition Buys Integrity, Not Yield
摘要
多代理系统将任务划分为代理树,并用民间传说来证明这种划分的合理性:更小的上下文、更清晰的分离、并行性。我们问分裂对叶子发现的东西有多少到达根部有何影响。将分解建模为一棵树,其中代理递给 $b$ 项,以概率 $r(b)$ 保留任何一项。如果 $r(b)=1/b$,则对于每种任务大小和每种形状,每棵树都准确地提供一个结果;我们在 20,000 棵随机不规则树上验证了这一点为 $2.4 \times 10^{-15}$。如果 $r(b)=Cb^{-δ}$,超过 $N$ 结果的深度 $k$ 树会产生 $C^k N^{1-δ}$:任务大小和架构是分开的,并且架构每层仅贡献 $C \le 1$,因此平坦是产量的最佳选择,并且代理的排列不会逃脱指数 $δ$。通过不共享故障模式的三个识别,在 600 个生产深度研究中跟踪 $δ= 0.34$ [0.30, 0.38]。在项目边界来自工具而不是文本启发式的跃点,并且 $b=1$ 出现 550 次时,观察到而不是推断出 $C = 0.571$ [0.527, 0.615],超过 16,082 个跃点。层级还需要调整:在 1,012 个带注释的多代理跟踪中,十六分之一的摘要偏离目标,导致 $μ= 0.939$ 和每层惩罚 $Cμ= 0.536$。深度是在另外两个轴上购买的。根上下文是唯一持续存在的状态,也是唯一不能轻易忘记的状态,深度将其暴露度从 $N$ 项减少到 $N^{1/k}$。深度也更便宜:生产扁平化代理的计费为 $N^{1.39}$,而不是仅附加上下文预测的 $N^2$,并且在同等支出下,两层在 403 个结果中超越扁平化。在我们测量的每个参数中,该模型表示 0.7% 到 11.3% 的生产会话值得委托,而这一比例为 7.8%。 743,819 次生产工具调用的危险模型发现,委派不会响应填充上下文,而是一个开局动作。