Hive：面向算法级与任务级扩展的多智能体基础设施

大语言模型日益被部署为随任务复杂度而扩展的复杂智能体系统。尽管先前工作已广泛探索模型级与系统级扩展，算法级与任务级扩展在很大程度上仍待解决，制约着智能体系统的全部潜力。在算法层面，分配额外的推理时计算可增强工作流能力，但会引入跨路径冗余：多个推理分支之间的重叠计算。在任务层面，复杂任务可分解为子问题并委派给多个智能体，以提升可扩展性与并行性。然而现有基础设施的调度并不感知多个智能体的存在，错失了优化资源分配的机会。我们提出Hive，一个支持算法级与任务级扩展的多智能体基础设施。Hive具有一个描述前端，可捕获每个智能体的行为并支持测试时扩展算法。利用这一规约，我们的后端引入两种关键机制：Logits Cache在冗余采样路径间复用中间logits，以缓解算法层面的跨路径冗余；Agent-Aware Scheduling在任务层面按智能体贡献高效分配计算与KV-cache资源。实验表明，Logits Cache在重采样上取得平均$1.11\times$-$1.76\times$的加速，Agent-Aware Scheduling将热点未命中率降低$33\%$-$51\%$。