开源项目

microsoft/KVstream:新工程

microsoft/KVstream

AI 基础设施模型网关

概述

以准入控制、排队、背压和熔断治理并发推理访问。(2026-06-09,新工程发布口径) MIT许可;可源码安装运行,提供兼容OpenAI的本地模型网关。 详细信息以官方发布为准。