有界循环:代理Harness的预运行支出界限、已证明的终止和已验证的完成
Bounded Loops: Pre-Run Spend Bounds, Proved Termination, and Verified Completion for Agent Harnesses
摘要
在主流代理框架中,当代理自己的输出表明其已完成时,步骤结束。持久执行平台会限制重试和时间,但它们的检查器通常与工作位于相同的代码库中:部署值得信赖的规则,而不是工具强制执行的属性。我们规定代理Harness必须保证什么,证明它,并构建衡量Harness是否实现它的工具。有界循环是一个工作线程、一个工作线程无法写入的独立门以及一个声明的预算;有界循环图将它们与修复关系组合在一起,使下游故障能够重新运行已完成的上游节点。遵循三个保证。它完成:如果修复预算是全局的而不是每个节点,则终止保留在修复中,最坏情况的尝试总数以封闭形式表示。它不会漂移:没有节点在仅附加哈希链式账本中没有门判决的情况下到达完成,从控制流证明,因为修复没有留下拓扑顺序来引导。它不会超支:上限是在一次尝试内强制执行的,而不是在两次尝试之间强制执行的。门是根据两层保留的突变语料库来测量的。我们描述了两个类,它们让看起来健全的检查通过任何东西:真空,满足于没有被检查的东西,以及自我证明,其中主体提供检查所应用的值。在 69 个循环目录中,该仪器在已发布、经过审查的代码中发现了 47 个空门。针对修复后的大门,它报告没有错误接受超过 209 个破坏性突变体($\alpha \le 1.8\%$,Wilson 95%);这个数字是饱和度,而不是质量:冻结门并应用新的算子族可以恢复 23.3% 的错误接受率,而用尽的语料库报告没有错误接受率。费率属于特定门;贡献在于设备,而不是我们的人数。引擎、目录和语料库都是 Apache-2.0。