面向智能体工作流的可解释模型路由

摘要

现代智能体工作流将复杂任务分解为专门的子任务，并将其路由到不同模型，以在不牺牲质量的前提下最小化成本。然而，当前的路由架构只关注性能优化，未记录模型能力与成本之间的潜在权衡。在缺乏清晰依据的情况下，开发者无法区分智能的高效（为合适的任务使用专门的模型）与由预算驱动的模型选择造成的潜在故障。我们提出Topaz，一个为智能体路由引入正式可审计性的框架。Topaz用一种天然可解释的路由器取代了隐式的模型指派，该路由器包含三个组件：(i)基于技能的画像，将跨多种基准的性能综合为细粒度能力画像；(ii)完全可追溯的路由算法，利用基于预算与多目标的优化，清晰记录技能匹配分数如何与成本进行权衡；(iii)面向开发者的解释，将这些记录转化为自然语言，使用户能够审计系统逻辑并迭代调整成本-质量权衡。通过使路由决策可解释，Topaz让用户能够理解、信任并有效地引导被路由的智能体系统。

面向智能体工作流的可解释模型路由：论文配图 — 图 1.Topaz 架构。综合公共基准以形成模型能力概况。然后，对于新的代理工作流程，分析每个子任务的复杂性和技能要求。 Topaz 路由引擎平衡了技能匹配和成本，为每个子任务生成模型分配，同时为开发人员提供可解释的跟踪。架构图显示了馈送到中央路由引擎的两个分析管道。底部管道将公共基准综合到模型能力配置文件中。顶部管道分析代理工作流子任务的复杂性、令牌长度和技能要求。这些管道共享统一的技能分类。路由引擎平衡技能匹配与成本，生成模型分配和路由解释，并具有技能驱动的基本原理和成本质量权衡理由，以及用户调整的质量敏感性的反馈循环。