Arbor：树搜索作为自主智能体的认知层

Arbor 是一个多代理框架，引入结构化树搜索作为在大型、有状态的操作空间中运行的自主代理的认知层。先前的自主优化系统通过无状态评估在孤立的目标上运行。相反，Arbor 维护了一个明确的评分假设搜索树，作为跨代理的共享工作记忆，随着每次测量而发展，将失败视为重塑后续探索的诊断信号，并随着先前的成功改变瓶颈分布而扩展。我们在全堆栈 LLM 推理优化方面验证了 Arbor，在这个领域，实现峰值性能历来需要跨应用程序、框架、编译器、内核和硬件堆栈的工程团队协调努力。 Arbor 将 Orchestrator 代理与 Critic 代理配对，前者通过在推理堆栈上委托给领域专家来驱动优化，后者通过根本原因分析、内省和测量验证来保障稳定性，这是一种制衡架构，任何代理都不能单方面驱动系统。代理能力被分解为硬技能（领域专业知识）和软技能（确定贡献如何组成的协调协议），从而实现完全自主的多日活动。与供应商优化的基准相比，Arbor 的推理吞吐量-延迟帕累托改进高达 193%，而没有线束的单个代理在吞吐量改进上达到了 33% 的稳定水平，并在数小时内无法恢复地崩溃。 Arbor 可以推广到多代硬件平台，运行间差异在 2 个百分点以内，表明该方法与硬件无关且可重现。