ggml-org于上海时间2026年10月27日03时08分通过GitHub Release发布llama.cpp预发布b11905,对应接口published_at为2026年10月26日19时08分44秒,预发布标记为真,标签与名称均为b11905。仓库归属为ggml-org组织下的公开仓库llama.cpp,项目定位为C与C加加本地大模型推理引擎,覆盖llama-server自托管、本地推理与多后端部署。中国用户可直接查看发布页与发布接口验证版本与发布时间,不以聚合榜单、转载或搜索片段为准。本次发布相对b11904合入1笔提交,目标提交为Vulkan后端优化变更,未涉及许可证文件变更说明,沿用已核验站内资料显示的MIT条件。该版本为高频预发布中的常规版本更新,聚焦Vulkan归一化算子性能,不改变对外发布节奏。本次均以当日发布页、发布接口与当日提交记录核验,不补发往日版本动态。

关键变化

本次唯一新增提交为vulkan: rms norm optimization using subgroup reductions(#29882),作者时间为2026年10月26日14时14分31秒即上海10月26日22时14分,父提交对应b11904目标提交。该提交合计改动152行,其中新增113行、删除39行,主要修改ggml-vulkan后端归一化管线与实现。将pipeline_rms_norm_f32等六组管线由单个管线改为3元数组以支撑多分支调度,并同步调整rms_dict与merge_maps说明与注释。同步增加128、256、512块尺寸的非子组路径,统一BLOCK_SIZE用法,增加跳过第二次子组规约的快速路径与循环展开,并将AMD厂商纳入子组规约优化。本次发布说明与提交信息均未标记破坏性变更与安全修复版本,MIT不变,预发布状态不变。

适用对象与兼容性

本次主要面向使用llama.cpp自托管与本地推理且启用Vulkan后端的用户,包括在Linux与Windows上使用Vulkan构建运行大模型推理、关注归一化算子延迟与吞吐的本地部署与服务维护者,以及跟踪Vulkan代码路径的构建测试人员。对仅使用CPU、CUDA、ROCm或Metal等其他后端的已有部署,本次Vulkan专用路径无直接强制变化,升级后无需改写调用即可继续使用;对启用Vulkan的部署,需按文档确认驱动对子组规约的支持情况并重新验证常规推理输出与长文本稳定性,国内用户需自行解决GitHub构建产物网络可达性并验证下载完整性。对跟踪高频预发布的自托管运维用户,可按常规流程拉取标签验证。本次为预发布版本,不建议直接用于生产全量升级,生产环境应先在测试服务验证。

限制与下一步

当日来源仅确认Vulkan归一化子组规约优化的代码合入、变更归属与提交时间,未给出具体机型加速比、功耗或全硬件对比数据,性能提升效果不作保证。当日来源未将本次列为安全修复版本,未声明具体操作系统与显卡覆盖清单,不作全平台可用承诺。许可证按MIT不变处理,实际复用仍以仓库许可证文件与自身合规评估为准,不对维护持续性作保证。建议先在隔离或测试环境升级至b11905,重点验证Vulkan构建是否正常编译、常用模型推理输出是否稳定、服务端与本地流程是否正常,再决定是否跟随。后续进展以同一仓库Release页面为准,不补发往日版本动态。