北京时间 10 月 19 日 1 时 36 分,ggml-org 在 GitHub 发布 llama.cpp 预发布 b11720。仓库接口记录发布时间为 2026-10-18T17:36:42Z,对比区间为 b11719 至 b11720。本次为常规预发布迭代,仅合入 1 笔提交:在 ggml 层为 SUM 算子新增非连续内存支持,覆盖 CPU、CUDA、Vulkan 与 WebGPU 四个后端。以上版本、时间与对比区间由官方仓库发布页与接口直接确认;影响判断为编辑基于发布说明的解释。

已核实变化

官方发布说明列出的核心变更为 ggml: support non-contiguous SUM,对应合入请求为 #28851,提交覆盖 CPU 与 CUDA 的实现、非连续 SUM 测试用例,以及 Vulkan 与 WebGPU 的适配。对比页明确标注本次仅有 1 个提交与 5 个文件变更,确认变更集合归属当日。以上条目为官方宣布内容,未经独立测试验证,未包含性能、成本或精度承诺。

影响与适用范围

受影响对象为自行构建 llama.cpp 或使用多后端预编译包,并在非连续张量视图上触发 SUM 归约的本地推理与验证用户,特别是跨 CPU、CUDA、Vulkan 与 WebGPU 的多后端部署。更新后相关路径可正确处理非连续内存,避免此前仅支持连续布局可能带来的兼容限制。不涉及新模型支持、接口破坏性变更或许可证调整,未使用 SUM 非连续路径的用户无直接变化。中国开发者可在官方仓库核对版本号与对比区间后,在测试环境验证构建与推理链路。

限制与下一步

本次仅为底层算子兼容扩展,未声明新模型支持、基准数据、性能提升或安全修复,不应理解为速度或成本承诺。实际效果仍受硬件型号、驱动版本、构建选项与张量布局影响,生产升级建议先验证相关模型的加载与解码,再全量更新。若后续出现补充说明或修复版本,将以新的可核验事件另行处理。