ggml-org于上海时间2026年10月21日7时19分通过GitHub Release发布llama.cpp预发布b11765,接口显示published_at为2026-10-20T23:19:38Z,prerelease标记为true,标签与名称均为b11765,对照区间为b11763至b11765。仓库归属为ggml-org组织下的ggml-org/llama.cpp,项目定位为本地大模型推理引擎,支持llama-server自托管与CPU、CUDA、Vulkan等多后端本地部署。本次当日发布页未提及许可证变更,沿用站内已核验的MIT条件。中国用户可通过当日Release页面与Release API验证版本与发布时间,不以聚合榜单、转载或搜索片段为准。
关键变化
- 在b11763基础上合入Kolibri-1路由精度精简,移除冗余的ggml精度覆盖并回归默认精度;明确路由矩阵乘以默认精度即可正常工作,为此前评审的后续清理;同步修正相关注释,未改变功能接口;本次为预发布常规修正,未声明为安全修复版本,MIT许可不变
适用对象与价值
本次主要面向使用Kolibri-1相关模型或关注ggml路由精度逻辑的本地推理与源码构建用户,包括需要自行编译验证的开发者与自托管服务维护者。精简前路由侧保留了两处精度覆盖,功能上可运行但属于冗余设置;精简后统一走默认精度路径,有助于减少特殊分支维护成本与排查干扰,保持与既有评审结论一致。对于仅使用通用模型推理、不涉及Kolibri-1路由的CPU、CUDA、Vulkan用户,本次无直接功能变化,可按常规节奏跟随。中国用户如需验证,需自行解决GitHub网络可达性,并核对构建工具链与目标后端匹配。
兼容性与安装条件
本次为预发布版本,不建议直接用于生产全量升级,存量服务宜先在测试环境验证。发布说明将变更列为常规模型侧清理,未标记破坏性变更,但涉及ggml底层精度设置,相关模型用户仍需回归常用量化与推理流程。仓库为公开仓库,无需授权即可查看发布页与拉取源码,当日构建产物沿用既有分发渠道,覆盖macOS、Linux、Windows、Android与iOS等。实际使用仍需配置模型权重路径、服务端口与后端参数,可用模型范围与量化格式以本地转换为准。国内拉取与构建需自行评估网络与编译环境,升级前建议记录当前版本与服务配置以便回退。
限制与下一步
当日来源未将本次列为安全修复版本,不作安全加固保证;性能、显存占用与吞吐变化未在当日发布页量化,不作普遍加速或稳定性保证。许可证方面,当日说明未提及变更,按MIT不变处理,实际复用仍以仓库许可证文件与自身合规评估为准,不对维护持续性作保证。已使用b11763的Kolibri-1相关用户建议先在隔离环境升级至b11765,重点验证模型加载与推理一致性,确认无回归后再跟随。后续进展以同一仓库Release页面为准。