核心变化

ggml-org 在上海时间2026年10月20日04时13分通过 GitHub 发布 llama.cpp 预发布 b11741,对比区间为 b11740 至 b11741。本次仅合入 1 笔提交 1b29621,提交作者为 lhez,提交时间为协调世界时2026年10月19日19时30分,对应上海时间10月20日03时30分。提交主题为为 OpenCL 新增协作式 K 分块 DP4A 通用矩阵乘法,覆盖 q4_0、q4_k 与 q6_k 三种量化类型,并包含一处对齐修复。发布状态仍为预发布,由 github-actions 机器人自动构建并上传多平台构建包。站内已核验的同仓库历史条目均记录许可证为 MIT,本次文件对比未涉及许可证文件与发布流程变更。

适用对象与兼容条件

本次变更面向使用 OpenCL 后端进行本地推理的用户,特别是加载 q4_0、q4_k 与 q6_k 量化模型的场景。代码层面新增了针对 2 至 4 列的协作式 DP4A 内核,权重采用 Adreno 无混洗 SoA 布局,激活沿用 Q8_1 的 K 主序排布,不使用激活转置。仓库归属仍为 ggml-org 名下的 llama.cpp,获取方式为访问 GitHub 发布页或拉取对应标签源码自行构建。中国用户可直接访问公开仓库与发布页,但构建与下载速度受本地网络条件影响。已有 b11740 的用户可将其视为常规增量预发布,不涉及配置文件格式变化。

安装访问与升级建议

用户可通过仓库发布页的 b11741 标签下载源码包或已构建的 Ubuntu 与 Windows 等构建产物,也可通过 git 拉取标签后按官方文档在本地编译。OpenCL 用户升级前宜先备份当前可用版本与模型文件,并在测试环境验证常用量化模型的加载与简单推理是否正常,再决定是否替换生产环境。由于本次为预发布,不建议直接覆盖稳定服务,应保留回退路径。如仅使用 CPU、CUDA、Vulkan 或 Metal 等其他后端,本次变更与日常使用无直接关系,可按原节奏等待后续版本。

限制、安全与下一步

本次为单一 OpenCL 内核层面的功能追加,未声明安全修复,未变更许可证与维护状态,也未提供性能对比数据,实际加速效果会因设备、驱动与模型而异,不作保证。提交与对比页未提及破坏性变更,但 OpenCL 在不同厂商驱动上的行为仍需实测确认。如在使用特定量化模型时遇到精度或崩溃问题,应保留日志并回退到 b11740,同时关注上游后续修复。下一步可继续跟踪该仓库的 b11742 及之后版本,确认该内核在更多机型上的稳定性后再进行批量升级。