通过不确定性分解实现灵活路由

现代机器学习系统中平衡性能和成本的关键策略是将查询动态路由到低成本模型或更昂贵的预言机（例如大型预训练模型或人类专家），这种方法称为模型路由。在这项工作中，我们提出了一种新的不确定性感知路由器，它（1）避免了对固有不明确查询的不必要的预言机调用，（2）通过简单的超参数更改动态适应不同的损失函数和成本参数，而无需重新训练。我们的方法适用于每个输入有多个独立注释可用的任何分类设置，基于使用高阶预测变量将总体不确定性分解为不可约和可约分量 [Ahdritz et al., 2025]。这实现了路由和弃权的统一方法：当不确定性较低时，使用弱模型进行预测；当可约不确定性较高时，路由到预言机；当不可约不确定性较高时，弃权。我们的路由器具有强大的理论保证，相对于最佳的特定任务路由器来说，限制遗憾。我们对合成数据集和现实数据集进行了实验，证明了我们的方法在适当的情况下的好处——特别是当可约和不可约的不确定性不太相关时。