核心变化

ggml-org 于上海时间 2026 年 9 月 23 日 18 时 25 分发布 llama.cpp 预发布 b11124。发布接口显示 published_at 为 2026-09-23T10:25:28Z,created_at 为 2026-09-23T05:26:05Z,prerelease 为 true,目标提交为 1a679828f3312ebc53c9285805cc8bd7c7d90366。该提交的父提交为 384a534ce3ca619d2fef01095802493a8b90bcaa,即 b11123 的目标提交,说明本次为相对 b11123 的单提交滚动迭代。提交信息为 cuda: top-k MoE should always fire,对应编号 #28432,提交时间为 2026-09-23T05:26:05Z。改动文件为 ggml/src/ggml-cuda/ggml-cuda.cu,统计为共 90 行、新增 78 行、删除 12 行,围绕 CUDA 图优化中的 MoE 加权归约匹配与内存分配依赖调整展开。发布资产侧已可观察到 Ubuntu 与 Windows 的 CUDA 相关预编译包,延续多平台同步产出节奏。

适用对象与访问条件

本次更新主要面向两类中国用户:一是在 CUDA 环境做本地推理、实际运行混合专家模型并关注 Top-k 路由与图优化稳定性的部署与调优人员;二是从源码或预发布节奏跟随主分支做回归验证的打包与集成维护者。访问条件为公开仓库,可从 GitHub Releases 页按标签 b11124 获取源码与预编译产出说明,或同步对应提交自行构建验证,无需账号与付费,国内下载需自行解决网络可达性,CUDA 验证还需具备对应驱动、工具链与显卡运行环境。

  • 修复CUDA Top-k MoE应始终触发逻辑;调整图优化中MoE加权归约的分配依赖处理;本次为相对b11123的单提交预发布迭代;未提及模型格式、接口与许可证变化

兼容性、迁移与限制

兼容性方面,本次属于常规预发布迭代,发布接口与提交信息均未提及破坏性变更、迁移要求与安全修复,未给出漏洞编号,可视为平滑升级。行为变化限于 CUDA 后端的 MoE 与图优化路径:未使用 CUDA 后端的 CPU、Metal、Vulkan、SYCL、OpenCL 等用户理论上不受直接影响,但因项目处于高频滚动预发布,仍需在自身模型与硬件上实测。许可证方面,发布说明未提及许可证调整,沿用站内已核验的 MIT 条件,实际使用仍以仓库许可证文件与自身合规评估为准,不对维护持续性作保证。已知限制是本次说明未给出性能数据、受影响 MoE 模型清单与回退条件,不应视为普遍正确性或性能保证。

已在使用 CUDA 后端运行 MoE 模型或需验证相关推理路径的测试环境用户,建议先在测试环境升级至 b11124,重点验证目标 MoE 模型是否正常加载推理、Top-k 路由行为是否符合预期,以及与 b11123 相比是否有编译告警或数值回归,确认无异常后再评估是否跟随。仅做 CPU 推理、未使用 CUDA MoE 路径的用户可继续观察,无需为本次跟随升级。若出现新的构建失败或运行异常,应以官方 Release 说明与对应提交信息为准排查。