核心变化

ggml-org 在上海时间2026年10月20日08时23分通过 GitHub 发布 llama.cpp 预发布 b11748,对比区间为 b11747 至 b11748,发布状态仍为预发布。本次仅合入 1 笔提交,提交哈希为 3bb63cb,作者时间为上海时间10月20日07时47分,发布时间与提交时间均落在当日窗口内。该提交对应拉取请求第30430号,主题为修复 SYCL 后端在重排量化权重上的 get_rows 取行错误。改动集中在 ggml SYCL 路径的反量化与转换逻辑,发布接口显示共 4 个文件变更,提交统计为 262 行新增与 21 行删除,已确认包含 ggml/src/ggml-sycl/convert.cpp 与 ggml/src/ggml-sycl/dequantize.hpp。核心修正在 Q2_K、Q3_K、Q4_K、Q5_K、Q6_K 重排路径中将取行偏移由函数内部推导改为由调用方按分组索引显式传入,并同步调整目标指针计算,避免多行并行反量化时写入错误行。

适用对象与兼容条件

本次变更面向使用 SYCL 后端在英特尔显卡上做本地推理的用户,特别是启用重排量化权重转换与 get_rows 取行路径的场景,例如在支持 SYCL 的 Windows 与 Linux 构建上运行 K 系列量化模型。仓库归属仍为 ggml-org 名下的 llama.cpp,获取方式为访问 GitHub 发布页 b11748 标签下载源码或构建产物,也可通过 git 拉取对应标签后按官方文档自行编译。发布流程延续多后端构建矩阵,历史产物包含 Ubuntu 与 Windows 的 SYCL 构建,未涉及模型权重格式与通用调用接口变化。站内同仓库历史条目均记录许可证为 MIT,本次对比未涉及许可证文件与维护状态变更。中国用户可直接访问公开仓库与发布页,下载与构建速度受本地网络条件影响。已有 b11747 的用户可将其视为常规增量预发布。

安装访问与升级建议

用户可通过仓库发布页的 b11748 标签获取源码包或已构建产物,也可通过 git 拉取标签后在本地按文档编译验证。使用 SYCL 后端的用户,建议先在测试环境对比升级前后同一批 K 量化模型的加载与推理结果,重点观察是否消除此前偶发的行错位或输出异常,再决定是否替换线上版本。由于本次为预发布,不建议直接覆盖生产服务,应先备份当前可用的 b11747 版本、配置文件与模型文件,保留回退路径。如仅使用 CPU、CUDA 或 Vulkan 后端,或未启用 SYCL 重排量化路径,本次核心修复与日常使用无直接关系,可按原节奏等待后续版本。构建与贡献者可同步核对转换与反量化头文件的接口签名变化。

限制、安全与下一步

本次为 SYCL 后端取行修正,未声明安全修复,未变更许可证与维护状态,也未提供性能对比数据,实际效果会因设备、驱动、量化类型与模型而异,不作保证。将本地服务对外暴露时仍需自行评估身份校验与防火墙策略,不宜无保护开放。本次调整涉及底层反量化写入地址,依赖固定输出断言的脚本如遇差异应先核对是否已同步到 b11748 逻辑。下一步可继续跟踪该仓库 b11748 之后版本,确认该修正在更多 K 量化与分辨率组合下的稳定性后再决定是否批量升级。