上海时间2026年9月22日13时20分,vllm-project发布高吞吐推理引擎vLLM正式版v0.30.0。GitHub发布接口标称published_at为2026-09-22T05:20:54Z,对应北京时间同日13时20分,prerelease为false,非预发布;仓库为github.com/vllm-project/vllm,维护方为vllm-project,项目描述为面向大语言模型的高吞吐内存高效推理与服务引擎,许可证经仓库接口核验为Apache-2.0,未发生变化。本次共合入762个提交、315名贡献者,其中104人为新贡献者,属0.29系列之后的大版本迭代。仓库接口另显示updated_at为2026-09-22T05:24:15Z、pushed_at为2026-09-22T05:08:36Z,均落在上海当日窗口内。

关键变化

  • 新增模型支持:DeepSeek-V4.1-Flash含整KV以MXFP8存储、DeepGEMM Mega-mHC与异步Engram预取,DeepSeek-V4-Flash-Vision-Exp含ROCm与LoRA支持,另含GLM-5.3-Flash、K2-Horizon、Cohere Compass、Bailing V3 VL、Nanbeige4.2及DeepSeek-V4 CPU后端,发布页均列出对应合入编号。
  • 启动与执行优化:Fast Start常驻单卡权重缓存守护进程,重启后可经CUDA IPC以--load-format ipc_cache映射后量化切分权重,覆盖FP4与多节点张量并行;Model Runner V2在eager模式与全量CUDA图下实现双批次重叠,引擎在H200上初始化自28.9秒降至8.2秒,图捕获自12秒降至2秒。
  • 特性与规模化:Gumbel-max水印生成检测支持按请求关闭并兼容推测解码,HiSparse以主机常驻层承接稀疏MLA解码KV外溢,另含Qwen3.8-Flash-Next与Kimi K3专项内核、大规模PCP/DCP与弹性专家并行、在线量化与NVFP4等,均以发布页说明为准,不作性能承诺。

适用对象与兼容性

面向已用vLLM对外提供大模型推理服务的团队,特别是需上线DeepSeek新变体、GLM、Qwen、Kimi等近期模型的中文部署场景,以及关注重启速度、显存压力与多机扩展的运维者。兼容性方面,发布页提供CUDA 13.0默认轮子与Docker镜像,另列CUDA 12.9、ROCm、CPU与XPU构建,覆盖Linux常用推理环境;本次未声明Python版本门槛变更,实际依赖以对应轮子与镜像为准。模型文件与已有服务配置不受自动迁移,需按新支持矩阵核对。

迁移与访问条件

  • 经PyPI以pip install vllm获取CUDA 13.0默认构建,ROCm与XPU需附加对应extra-index,容器经docker pull vllm/vllm-openai:v0.30.0及cu129、ubuntu2404、rocm、cpu、xpu变体拉取;中国用户需自行解决GitHub与PyPI访问及大体积轮子下载条件。升级前应在测试环境验证目标模型加载、基础对话与流式、工具调用及监控指标,确认所选构建与驱动、运行库对应。

破坏性变更与限制

本次含明确破坏性变更:普通vllm serve需显式加--enable-scale-out才开启扩缩容端点,GPTQ激活排序g_idx移除,0.29已废弃的环境变量与Mamba all缓存模式移除或废弃,grpc入口建议改用vllm serve --grpc,YaRN与Transformers对齐后厂商别名不再二次缩放max_model_len。发布说明未将其标注为安全公告,不应视为漏洞修复结论;性能数据均为发布页受控环境描述,未提供独立复现基准,不能据此保证线上收益。许可证效果与长期维护不作超出说明的保证。

下一步:已在生产使用vLLM的维护者宜先在隔离环境拉取v0.30.0,覆盖常用模型、破坏性参数与回滚预案验证后再灰度;仅使用旧版本且无新模型需求的用户可暂不升级,待生态轮子与文档完全同步后再评估。升级前备份启动脚本、模型配置与自定义插件,并在替换后完成接口连通性与容量回归检查。