开源项目

vLLM发布v0.19.0正式版,改变调度与并行执行机制

vllm-project/vllm

模型推理批处理与并行

概述

vllm-project于2026年4月3日发布vLLM v0.19.0正式版,信号以月度主版本发布日期(北京时间)为锚点。该版本新增零气泡异步调度与投机解码重叠,并扩展Model Runner V2执行机制,实质改变调度与并行执行机制。README包含安装和快速上手说明,项目采用Apache-2.0许可。