论文

按时且在预算内:面向智能体工作流的约束驱动在线资源分配

On Time, Within Budget: Constraint-Driven Online Resource Allocation for Agentic Workflows

智能体系统Agent Harness

摘要

代理系统越来越多地通过执行精心策划的工作流程来解决复杂的用户请求,其中子任务被分配给专门的模型或工具,并根据其依赖性进行协调。虽然最近的工作通过优化性能-成本-延迟边界来提高代理效率,但实际部署通常会提出具体要求:工作流必须在指定的预算内并在指定的截止日期之前完成。这将目标从平均效率优化转变为在明确的预算和截止日期约束下最大化整个工作流程成功完成的概率。我们研究\emph{代理工作流程的约束驱动的在线资源分配}。给定依赖结构的工作流程以及每个子任务-模型对的成功率和生成长度的估计,执行器在同时可执行的子任务之间动态分配模型和并行样本,同时管理剩余的预算和时间。我们将此设置表述为有限范围随机在线分配问题,并提出\emph{蒙特卡罗投资组合规划}(MCPP),这是一种轻量级闭环规划器,可通过模拟工作流程执行直接估计约束完成概率,并在观察结果后重新规划。 CodeFlow 和 ProofFlow 上的实验表明,MCPP 在广泛的预算期限约束下,在强基线上持续提高了约束完成概率。

按时且在预算内:面向智能体工作流的约束驱动在线资源分配
图 1:性能-成本-延迟边界优化与约束驱动的在线资源分配之间的比较。用户请求首先被转换为静态工作流程,并且可以从类似的过去查询或执行中获得子任务模型对的成功率和生成长度估计。以前的方法优化或改进了性能-成本-延迟边界,但更好的边界仍然没有指定在给定当前工作流状态、预算 B B 和截止日期 D D 的情况下采取哪个操作。相比之下,我们的方法在执行期间将模型和并行部署分配给准备好的子任务,以最大限度地提高工作流在指定预算和截止日期内成功完成的概率。