Brick：面向模型混合范式的空间能力路由

定义查询难度是部署工程中最难的问题之一。现有的 LLM 路由器依赖于域标签、关键字和标记计数等表面特征，忽略了实际决定模型成功的域内差异。前沿模型的成本比本地开放权重模型高出十到一百倍，因此在生产规模上，即使每个请求节省的少量费用也可以成为直接的云账单杠杆。我们提出了 Brick，一种多模态路由器，它在六个功能维度上对每个模型进行评分，将其与每个查询的难度估计相结合，并通过成本惩罚几何规则进行调度。连续的偏好旋钮可让操作员在部署时在最高质量和最高节省配置文件之间滑动。在 5,504 个查询的基准测试中，Brick 在最高质量下达到了 76.98% 的准确率，击败了最好的单一模型 (75.02%) 和所有测试的路由器。在中性成本质量配置下，Brick 实现了 74.11% 的准确率，而成本比始终使用最强模型低 4.71 倍。在最小成本下，其成本降​​低了 22.15 倍，精度损失为 11.85 点。中位延迟从 51.2 秒降至 22.8 秒。