ggml-org于上海时间2026年10月22日05时15分通过GitHub Release发布llama.cpp预发布b11800,对应接口published_at为2026年10月21日21时15分21秒,预发布标记为真,标签与名称均为b11800。仓库归属为ggml-org组织下的llama.cpp公开仓库,项目定位为本地大模型推理引擎,中国用户可直接查看发布页与拉取源码。本次对比区间为b11799至b11800,仅合入一笔QSA掩码融合相关提交,不涉及新模型权重发布与许可证变更,沿用当日拉取确认的MIT条件。该版本延续高频预发布节奏,聚焦稀疏注意力底层算子统一,对终端对话功能无直接变化。本次均以当日发布页、发布接口与提交页核验,不以聚合榜单或搜索片段为准。
关键变化
- 对比区间为b11799至b11800共1笔提交,提交标题为llama: create new fused op for QSA mask,关联PR为#30640;提交创建于2026年10月21日17时02分22秒即上海时间10月22日01时02分,发布事件为上海时间10月22日05时15分;在ggml层新增ggml_top_k_mask融合算子与CUDA实现,在llama层新增build_fused_top_k_mask图构建路径,统一QSA、DSA与DeepSeek V4 CSA的掩码生成;同步纳入QSA评分融合、glm5.3-next适配与测试哨兵初始化修复;发布说明未标记破坏性变更与安全修复,MIT不变
适用对象与兼容性
本次主要面向在本地运行稀疏注意力模型的开发者与自托管服务维护者,特别是使用Qwen4exp、GLM系列下一代模型、DSA架构与DeepSeek V4 CSA路径的用户。改动位于底层图算子层,对CUDA、Vulkan、CPU等后端保持原有回退路径,未启用探测的后端继续走原有fill与set_rows实现,不影响模型权重与对外接口,不含模型转换参数调整。本次为预发布版本,不建议直接用于生产全量升级,存量服务宜先在隔离或测试环境验证。公开仓库无需授权即可查看发布页与拉取源码,实际使用仍需配置模型权重路径与后端编译参数。从源码编译的用户升级前建议清理构建目录后重新编译,国内用户需自行解决GitHub网络可达性并核对CUDA与编译工具链版本。
限制与下一步
当日来源未将本次列为安全修复版本,未声明具体性能提升比例与覆盖机型,不作普遍加速保证。新融合算子在不同后端与驱动上的实际收益与兼容性差异未在当日发布页量化,需结合自身硬件实测。许可证按MIT不变处理,实际复用仍以仓库许可证文件与自身合规评估为准,不对维护持续性作保证。建议先在隔离环境升级至b11800,重点验证目标稀疏模型能否正常加载、推理输出是否一致,以及原有后端是否正常回退,再跟随后续预发布。后续进展以同一仓库发布页为准,不补发往日版本动态。