开源项目

vLLM 发布 v0.18.0 扩展服务接口并拆分多模态预处理

vllm-project/vllm

AI 基础设施模型服务框架

概述

vllm-project 维护的 vLLM 推理框架发布 v0.18.0 正式版,信号锚定的发布日期为2026年3月21日(北京时间)。该版本扩展服务接口,并将多模态预处理与推理拆分,实质改变了服务架构。v0.18.0 新增 gRPC 接口与独立的无 GPU 渲染服务,README 包含安装命令。项目以 Apache-2.0 许可证开源。