核心变化
ggml-org 于上海时间 2026 年 9 月 24 日 03 时 03 分发布 llama.cpp 预发布 b11147。发布接口显示 published_at 为 2026-09-23T19:03:52Z,created_at 为 2026-09-23T17:37:04Z,prerelease 为 true,目标提交为 fee39dd92673ba0c08c8da96040ce53368b35188,其父提交为 7fe450e19305b828c199d602c23a8337aaa1f03b,与前一预发布 b11146 的目标提交一致,构成对 b11146 的单提交递进。提交信息为 opencl: add A8 Q6_K non-MoE dp4a binary kernel,对应编号 #29057,提交时间为 2026-09-23T17:37:04Z,即上海时间 9 月 24 日 01 时 37 分。改动集中在 ggml/src/ggml-opencl/ggml-opencl.cpp,共 81 行、全部为新增、删除 0 行,新增 gemm_noshuffle_q6_k_q8_1_dp4a_ila_a8 二进制内核的声明、加载与调用分支,并通过环境变量 GGML_OPENCL_Q6_K_BIN_DP4A 控制是否启用,默认启用且要求设备具备整数点积能力。发布资产侧延续多平台同步产出节奏。
适用对象与访问条件
本次更新主要面向两类中国用户:一是已在 OpenCL 后端使用 llama.cpp 做本地推理、特别是使用 Q6_K 量化与 Adreno 等移动端 GPU 路径的部署与调优人员,需要验证非 MoE 场景下新增 dp4a 二进制内核是否被正常加载与调用;二是从源码或预发布节奏跟随主分支做回归验证的打包与集成维护者。访问条件为公开仓库,可从 GitHub Releases 页按标签 b11147 获取源码与预编译产出说明,或同步对应提交自行构建验证,无需账号与付费,国内下载需自行解决网络可达性,实际验证还需具备对应 OpenCL 工具链与运行环境。
- 新增OpenCL A8 Q6_K非MoE dp4a二进制内核;通过GGML_OPENCL_Q6_K_BIN_DP4A环境变量控制,默认启用;本次为单提交预发布迭代,未涉及许可证调整
兼容性、迁移与限制
兼容性方面,本次属于常规预发布迭代,发布接口与提交信息均未提及破坏性变更、迁移要求与安全修复,未给出漏洞编号,可视为平滑升级。行为变化限于 OpenCL 上 Q6_K 非 MoE 路径:仅当对应二进制内核存在、整数点积可用且环境变量未关闭时才会进入新分支,未使用该路径的用户理论上不受直接影响,但因项目处于高频滚动预发布,仍需在自身模型与硬件上实测。许可证方面,发布说明未提及许可证调整,沿用站内已核验的 MIT 条件,实际使用仍以仓库许可证文件与自身合规评估为准,不对维护持续性作保证。已知限制是本次说明未给出性能数据、受影响设备清单与回退条件,不应视为普遍正确性或性能保证。
下一步建议
已在使用 OpenCL Q6_K 路径或需验证 Adreno 二进制内核的测试环境用户,建议先在测试环境从 b11146 升级至 b11147,重点验证目标模型是否正常加载、新内核分支是否按预期触发,以及与前一版本相比是否有编译告警或数值回归,确认无异常后再评估是否跟随。仅做常规 CPU、CUDA 或未使用 OpenCL Q6_K 路径的用户可继续观察,无需为本次跟随升级。若出现新的构建失败或运行异常,应以官方 Release 说明与对应提交信息为准排查。