ggml-org于上海时间2026年10月22日16时09分通过GitHub Release发布llama.cpp预发布b11811,对应接口published_at为2026年10月22日08时09分36秒,预发布标记为真,标签与名称均为b11811。仓库归属为ggml-org组织下的公开仓库llama.cpp,项目定位为C与C加加本地大模型推理引擎,覆盖llama-server自托管、多后端本地部署与CPU推理优化。中国用户可直接查看发布页与接口验证版本与发布时间,不以聚合榜单、转载或搜索片段为准。本次对比区间为b11810至b11811,共合入1笔提交,不涉及许可证变更,沿用当日拉取确认的MIT条件。该版本为高频预发布节奏中的常规迭代,聚焦ARM侧KleidiAI内核升级,对终端对话主流程无直接变更。本次均以当日发布页、发布接口与对比接口核验,不补发往日版本动态。

关键变化

对比区间为b11810至b11811共1笔提交,提交哈希为dfeea52,作者时间为2026年10月22日06时56分21秒即上海14时56分,由Charles Xu提交,对应合入请求30808。变更主题为kleidiai新增Q8_0 SVE点积GEMV与SVE i8mm GEMM内核,包含两部分:将KleidiAI由v1.31.0升级至v1.32.0并更新下载校验值,以及在ggml-cpu侧重构矩阵乘适配器并新增对应内核路径,共涉及193行新增与94行删除、合计287处变更。其中ggml-cpu下kernels文件为171行新增与91行删除,CMakeLists仅更新版本号与MD5。基线提交为b11810对应的e3797b1,作者时间为当日05时30分21秒即上海13时30分,主题为SYCL合并反量化分支。发布说明未标记破坏性变更与安全修复,MIT不变。本次发布事件与提交事件均位于上海时间10月22日当日窗口,满足当日资讯硬门槛。

适用对象与兼容性

本次主要面向在ARM平台使用CPU后端进行本地推理的用户,特别是具备SVE与i8mm扩展的设备,包括Linux与Android侧ARM终端、边缘盒子与自建ARM服务器。此前KleidiAI v1.31.0缺失Q8_0在上述路径的完整内核,相关量化模型可能走低效回退路径,更新后点积与矩阵乘补齐,Q8_0模型可在对应ARM设备直接调用新路径。对CUDA、Vulkan、SYCL、Metal等其他后端与已有模型权重、启动参数无直接影响,公开仓库无需授权即可查看与拉取源码,实际使用需自行编译ggml-cpu目标并准备模型权重。从源码升级的用户建议清理构建目录后重新编译,国内用户需自行解决GitHub网络可达性并核对ARM工具链与内核版本。本次为预发布版本,不建议直接用于生产全量升级,ARM生产环境应先在测试设备验证。

限制与下一步

当日来源仅确认上述KleidiAI升级与内核新增,未给出各ARM芯片上的延迟对比、吞吐提升比例与功耗数据,实际加速效果与正确性需结合自身硬件实测。当日来源未将本次列为安全修复版本,未声明具体操作系统与芯片型号覆盖清单,不作普遍可用或性能保证。许可证按MIT不变处理,实际复用仍以仓库许可证文件与自身合规评估为准,不对维护持续性作保证。建议先在隔离或测试环境升级至b11811,重点验证Q8_0量化模型在目标ARM设备上是否正常加载、输出是否符合预期且无回归,再决定是否跟随。后续进展以同一仓库Release页面为准,不补发往日版本动态。