MoFlow：多目标 Agentic 工作流生成

我们研究了 Agentic 工作流程的生成，该工作流程联合优化了多个目标，例如准确性、成本、延迟、鲁棒性和一致性。现有的工作流生成方法通常单独优化准确性或目标的加权总和，因此每个经过训练的生成器都致力于一个固定的权衡，并且当偏好发生变化时必须从头开始重新训练。为了缓解这个问题，我们提出了 MoFlow，它可以生成跨不同偏好优化的工作流程。具体来说，MoFlow 将工作流生成制定为多目标马尔可夫决策过程，并通过利用凸包蒙特卡罗树搜索和乐观集值备份来解决它，其中每个节点存储一组可达到的权衡而不是一个加权分数。因此，一次搜索大致覆盖了帕累托前沿，MoFlow 可以通过查找返回任何偏好的工作流程，而无需重新训练。我们根据涵盖数学、代码和问答的六个基准的六个强大基线来评估 MoFlow。由于基线在设计上是单标量优化器，因此很难进行同类比较。相反，我们采用了有利于基线的评估设置，因为它们会针对每个测试首选项重新运行，而 MoFlow 从未见过。即使在这种严格的设置下，MoFlow 仍能实现最高的平均超体积。