开源项目

SmarterRouter:多后端模型路由与画像工具

peva3/SmarterRouter

AI 基础设施模型网关

概述

SmarterRouter是位于应用与多家LLM提供方之间的智能路由器:为模型建立画像、聚合基准数据,把每个请求分配给当前最适合的模型,全程本地运行、免费使用,免去手工选模型的负担。工程采用MIT许可,本次发布提供Docker启动、健康检查与客户端接入说明。面向接了多个模型后端、想让路由自动化的开发者与团队,应用侧只需改接入地址。