ggml-org于上海时间2026年10月21日6时14分通过GitHub Release发布llama.cpp预发布b11761,接口显示published_at为2026-10-20T22:14:42Z,prerelease标记为true,标签与名称均为b11761,对照区间为b11760至b11761。仓库归属为ggml-org组织下的ggml-org/llama.cpp,项目定位为本地大模型推理引擎,支持llama-server自托管与CPU、CUDA、Vulkan等多后端本地部署。本次当日发布页未提及许可证变更,沿用站内已核验的MIT条件。中国用户可通过当日Release页面与Release API验证版本与发布时间,不以聚合榜单、转载或搜索片段为准。
关键变化
- 在b11760基础上合入ggml-cpu修正,选择NEON分支的fp32转fp16硬件路径,使neon_compute_fp32_to_fp16真正被调用;新增#error分支校验,拒绝定义了COMPUTE宏却未选择的分支,避免静默回退到可移植软件实现;同步整理回退注释与POWER9、RISC-V分支选择逻辑,FP16到FP32方向保留F16C豁免与查表策略;本次为预发布常规修正,未声明为安全修复版本,MIT许可不变
适用对象与价值
本次主要面向在ARM设备上构建与运行llama.cpp的用户,包括Linux ARM64、Android、Apple Silicon等依赖NEON半精度路径的本地推理场景。修正前NEON分支虽定义了fp32转fp16的硬件实现,却因选择逻辑缺失而回退到软件转换,功能正确但无法使用单指令转换路径;修正后硬件路径被真正选用,有助于保持与POWER9、RISC-V分支一致的选择语义,减少因实现路径不一致导致的排查成本。对于仅使用x86 CPU、CUDA、Vulkan或SYCL的用户,本次无直接功能变化,可按常规节奏跟随。中国用户如需验证,需自行解决GitHub网络可达性,并核对交叉编译工具链与目标架构匹配。
兼容性与安装条件
本次为预发布版本,不建议直接用于生产全量升级,存量服务宜先在测试环境验证。发布说明将变更列为常规修正,未标记破坏性变更,但涉及ggml-cpu底层转换逻辑,ARM本地推理用户仍需回归常用模型与量化格式。仓库为公开仓库,无需授权即可查看发布页与拉取源码,当日构建产物沿用既有分发渠道,覆盖macOS、Linux、Windows、Android与iOS等。实际使用仍需配置模型权重路径、服务端口与后端参数,可用模型范围与量化格式以本地转换为准。国内拉取与构建需自行评估网络与编译环境,升级前建议记录当前版本与服务配置以便回退。
限制与下一步
当日来源未将本次列为安全修复版本,不作安全加固保证;性能、显存占用与吞吐变化未在当日发布页量化,不作普遍加速或稳定性保证。许可证方面,当日说明未提及变更,按MIT不变处理,实际复用仍以仓库许可证文件与自身合规评估为准,不对维护持续性作保证。已使用b11760的ARM用户建议先在隔离环境升级至b11761,重点验证半精度转换相关模型的加载与推理一致性,确认无回归后再跟随。后续进展以同一仓库Release页面为准。