北京时间 10 月 20 日 08 时 23 分,ggml-org 在 GitHub 发布 llama.cpp 预发布 b11748。仓库发布接口记录其发布时间为 2026-10-20T00:23:31Z,对应北京时间 10 月 20 日,对比区间为 b11747 至 b11748。该版本包含 1 笔提交,版本提交为 3bb63cbcbfb62056c84fe9e521b0f3d756d29c32,提交时间为 2026-10-19T23:47:21Z,对应北京时间 10 月 20 日 07 时 47 分。以上版本号、发布时间与提交对应关系由官方仓库发布与提交记录直接确认;影响判断为编辑基于官方描述的解释,未经独立测试验证。
已核实变化
官方合并的实质变更为提交 3bb63cb,标题为 sycl : fix get_rows on reordered quantized weights,关联 PR #30430。该提交修改 ggml/src/ggml-sycl/convert.cpp,对 Q2_K、Q3_K、Q4_K、Q5_K、Q6_K 共五组重排反量化函数调整取行写入逻辑:不再从任务组序号内部推导块序号,而是由调用方直接传入块序号,并将输出指针由 yy + ib * QK_K + 块内偏移改为 yy + 块内偏移,避免重复叠加块基址。该部分为对官方提交标题与代码差异的转述,不是独立复现结论。
从提交差异看,受影响路径为 SYCL 后端的重排量化权重取行与反量化输出写入。修复前同一块序号可能被重复计入输出偏移,导致取行结果写入位置错误;修复后块基址只由上层计算一次,下层仅处理块内偏移。该结论来自编辑对代码差异的阅读,未经第三方独立验证,中国用户可在测试环境按官方构建流程复核 SYCL 路径的加载与推理输出。
影响与适用范围
受影响对象为使用 SYCL 后端的本地推理与自托管用户,特别是英特尔显卡上运行 Q2_K 至 Q6_K 量化模型的场景。更新后重排量化权重的取行行为更符合预期,有助于减少因写入偏移错误导致的数值错误或异常输出。中国开发者若使用该后端,可在官方仓库核对 b11748 发布页与提交 3bb63cb 后,先在测试环境验证目标模型的加载、取行相关算子与问答输出,其他文本推理与多模态行为不变。
限制与下一步
本次为预发布,官方标注为 pre-release,不应理解为稳定功能、性能、安全或可用性承诺。除上述 SYCL 修复外,区间内无其他功能提交,不涉及模型新增、接口变更、许可证变更与计费调整。PR 自述关联的测试标签与修改细节限于提交者环境与受控代码路径,生产升级建议先备份再验证,重点检查 SYCL 构建、量化模型加载与推理稳定性。若后续出现新的版本化发布,将以新的可核验事件另行处理,不追溯修改本条时间结论。