核心结论

官方发布页标明,ggml-org于北京时间2026年10月27日2时46分发布llama.cpp预发布b11904,对应UTC时间为2026-10-26T18:46:19Z,预发布状态不变。官方比较页显示,对比区间为b11901至b11904,共合入3项提交,均集中在SYCL后端的加载与计算路径治理。编辑已核验发布时间与提交区间,尚未发现独立第三方解读,以下细节均以官方仓库页面为准。

本次变化

  • 1. 张量切分加载加速:官方提交记录为sycl: add set_tensor_2d for faster tensor-split loading(#30358),主机行按最高64 MiB分块打包后经共享暂存槽批量上传,减少逐行上传调用;官方称在两张Arc Pro B70上以gpt-oss-120b UD-Q4_K_XL做llama-perplexity验证,总耗时由263-268秒降至114-115秒,2678万行回读校验无不一致,非连续目标仍走原逐行路径。 2. 拼接实现模板化:官方提交记录为sycl: template the per-quant concat impls(#31008),将多份按量化类型展开的拼接实现收敛为通用模板,属可维护性精简,不改变外部接口与模型能力。 3. 矩阵向量启动模板化:官方提交记录为sycl: template the plain MMVQ launch triples(#31013),将按目标列数展开的MMVQ启动分支收敛为模板分发,减少重复代码,行为层面为重构,不涉及新模型支持。

影响与限制

对中国自托管用户而言,本次更新的直接价值在于Intel显卡多卡切分加载大模型时等待时间明显缩短,模板化重构则降低后续维护风险,适合本地大模型联调与离线推理。官方实现仍属SYCL后端细节优化,不改变模型能力、量化格式与接口,英伟达、AMD与CPU路径不受影响。官方仍将其标记为预发布,构建产物为自动化生成,行为仍可能调整,不应视为生产级稳定性保证,也不宜据此推断后续版本节奏。

下一步

建议SYCL与Intel显卡用户先在测试环境拉取b11904验证张量切分加载、显存占用与多轮生成是否正常,重点确认大上下文与张量切分场景无异常回退,再决定是否跟进后续预发布。可通过官方发布页查看对应构建产物与比较页核对3项提交,不以单次预发布推断长期路线。若需生产部署,应等待正式版本或经充分验证的稳定标签,并按备份后验证的流程升级。