开源项目

ai-relay:以统一接口聚合多模型的网关实现

MoyuFamily/ai-relay

AI 基础设施模型网关

概述

ai-relay于2026年5月新公开,属于多模型网关类项目:应用只对接一个统一接口,后端在不同模型供应商之间转发请求,由网关处理协议与调用差异。这类组件是LLM应用从单模型走向多模型路由、降级和比价策略的基础设施,自建网关还能避免对单一厂商的锁定。项目聚焦核心机制,配额管理、可观测性等外围能力的支持程度