当日发布与版本定位

ggml-org/llama.cpp 的 GitHub Release API 显示,b10827 于 2026-09-06T20:50:00Z(北京时间 2026-09-07 04:50:00)正式发布,tag 为 b10827,prerelease 标识,target commit 为 d03efa5d5369a9cba63bec1ae712a2f6e686a1d6。比较 API 显示该版本基于 b10826(73a43d1)前进 1 笔提交,ahead_by 为 1,确认落于 Asia/Shanghai 2026-09-07 00:00–23:59 窗口内,为当日新实质进展,非旧闻重发或聚合。b10826 本身亦为当日 00:40 发布,二者共同构成今日的日更节奏;发布资产由 GitHub Actions 自动构建,包含全量多平台预编译包。

关键变化

  • OpenCL 修复:提交 d03efa5d5369a9cba63bec1ae712a2f6e686a1d6,信息“opencl: properly choose weights pack for q4_K, q5_K mul_mat (#28402)”,在 ggml/src/ggml-opencl/ggml-opencl.cpp 中新增形状校验 shape_ok = ne[0]%32==0 && ne[1]%4==0 && ne[2]==1 && ne[3]==1,并加入对 ne[1]%4!=0 时回退至 flat GEMV 的分支,修正 q4_K/q5_K 量化在 OpenCL 路径的权重打包选择,影响集成显卡与移动端 OpenCL 后端的数值正确性。
  • 资产与分发:Release API 列出 cudart-llama-bin-win-cuda-12.4-x64.zip、cudart-llama-bin-win-cuda-13.3-x64.zip、cudart-llama-bin-win-cuda-13.4-arm64.zip、llama-b10827-bin-macos-arm64/x64.tar.gz、llama-b10827-bin-ubuntu-arm64/x64.tar.gz、llama-b10827-bin-android-arm64.tar.gz、llama-b10827-bin-ubuntu-openvino-2026.3.1-x64.tar.gz、llama-b10827-bin-ubuntu-rocm-10.0-x64.tar.gz 等全量变体,与 b10826 同构,说明为常规日更构建。
  • 前序基线:b10826 相对 b10797 累积 29 笔提交,已包含 Spark2_5ForCausalLM 支持(PR #27868)、CUDA mmid/mmmf 竞态修复(PR #28475)及 grammar 重复阈值修复等;b10827 在此基础上单点修复,避免引入大范围变更。

适用对象与中国用户价值

对中国用户的价值:一是本地化部署用户,llama.cpp 是国内最常用的 GGUF 本地推理引擎,支持在消费级显卡、Apple Silicon、Android 手机与国产加速方案(OpenVINO、ROCm)上离线运行,无需外发数据,适合政企、教育与个人开发者在内网或端侧部署,OpenCL 修复直接提升量化模型在核显与移动设备上的可用性;二是量化模型用户,q4_K/q5_K 是中文社区最常用的量化格式,更新后可直接获得更正确的权重打包与更稳定的 GEMV 路径;三是维护健康度信号,日内两次预发布且全量预编译同步说明项目活跃,对依赖该引擎的上层应用(如 Ollama、LM Studio)是积极参考。

兼容性与迁移条件

  • 仓库与许可:由 ggml-org 维护,仓库 https://github.com/ggml-org/llama.cpp,GitHub 仓库 API 于 2026-09-06T20:57:14Z(上海 2026-09-07 04:57)核验 license 仍为 MIT License(spdx_id MIT),允许商用、修改与分发,需保留版权声明,无许可变更与新增合规负担。
  • 兼容性:b10827 为预发布增量更新,仅修改 OpenCL 权重选择分支与形状校验,无破坏性接口、GGUF 或模型格式变更,现有模型与调用脚本无需改动;未使用 OpenCL 后端的平台行为与 b10826 一致,可平滑升级。
  • 安装与访问:可拉取 tag b10827 重新编译,或直接从官方 Release 页下载对应平台预编译,建议按资产名精确选择(如 Windows CUDA 用户选对应 CUDA 版本,macOS 选 arm64/x64,Ubuntu 选 openvino/rocm 变体),下载后校验 SHA256;需公网访问 GitHub,离线环境需提前同步产物,企业内网可通过镜像分发。

限制与验证建议

限制:b10827 仍标记为 prerelease,稳定性待社区验证;修复仅作用于 OpenCL 后端的特定形状张量,非相关硬件或未使用 q4_K/q5_K 量化的用户无感知;单笔提交未涉及模型新增,Spark2.5 等能力与 b10826 一致。

建议在预发环境验证:以代表性中文与代码任务对比 b10826 与 b10827 在目标 OpenCL 设备上的生成一致性,重点验证 q4_K/q5_K 量化在非 4 对齐形状下的数值与性能;在批量推理与长上下文预填充下分别校验一次,确认无回归后再全量升级;生产环境保留 b10826 或更早稳定构建的回退路径。

来源时效说明

关键事实由上海当日 2026-09-07 的三类 GitHub API 共同支撑:b10827 Release API(published_at 2026-09-06T20:50:00Z 即上海 04:50、tag b10827、prerelease、target commit d03efa5)与 b10826...b10827 比较 API(ahead_by 1、文件 ggml-opencl.cpp 变更 8 行)、仓库 API(updated_at 2026-09-06T20:57:14Z 即上海 04:57、license MIT、归属 ggml-org),均已核验落于 Asia/Shanghai 00:00–23:59 窗口;比较与提交信息用于补充单笔修复细节,未为补充背景抓取往日页面。