ggml-org于上海时间2026年10月22日16时30分通过GitHub Release发布llama.cpp预发布b11812,对应接口published_at为2026年10月22日08时30分19秒,预发布标记为真,标签与名称均为b11812。仓库归属为ggml-org组织下的公开仓库llama.cpp,项目定位为C与C加加本地大模型推理引擎,覆盖llama-server自托管、多后端本地部署与Granite系列模型适配。中国用户可直接查看发布页与接口验证版本与发布时间,不以聚合榜单、转载或搜索片段为准。本次对比区间为b11811至b11812,共合入1笔提交,不涉及许可证变更说明,沿用站内已核验的MIT条件。该版本为高频预发布节奏中的常规迭代,聚焦Granite模型图构建的层输入记录补齐,对终端对话主流程无直接变更。本次均以当日发布页、发布接口与对比接口核验,不补发往日版本动态。
关键变化
对比区间为b11811至b11812共1笔提交,目标提交哈希为bf039c8,作者为Gabe Goodhart,作者时间为2026年10月22日07时02分41秒即上海15时02分,对应合入请求30957。基线提交为b11811对应的dfeea52,作者时间为当日06时56分21秒即上海14时56分,主题为KleidiAI新增Q8_0内核。变更主题为为全系Granite模型记录层输入:提交信息为models Record layer inputs for all granite models,分支标注为GraniteSpeculatorSupport,改动覆盖src/models目录下granite-hybrid.cpp、granite-swa.cpp、granite-switch.cpp等文件,每处在循环内新增res->t_layer_inp[il]等于inpL,共8行新增零删除。接口统计显示该提交改动总量为8行新增,文件状态均为修改,未触及构建脚本与文档。发布说明未标记破坏性变更与安全修复,MIT不变。本次提交与发布事件均位于上海时间10月22日当日窗口,满足当日资讯硬门槛。
适用对象与兼容性
本次主要面向在本地部署Granite系列模型的用户,包括使用llama.cpp运行granite-hybrid、granite-swa、granite-switch等变体的开发者,以及关注推测解码与多层状态复用的自托管服务维护者。改动仅为图构建阶段记录每层输入指针,不改变模型权重格式、转换流程与已有启动参数,对CUDA、Vulkan、Metal、CPU等其他后端无直接影响,公开仓库无需授权即可查看与拉取源码,实际使用需自行编译对应目标并准备模型权重。从源码升级的用户建议清理构建目录后重新编译,国内用户需自行解决GitHub网络可达性并核对工具链版本。本次为预发布版本,不建议直接用于生产全量升级,生产环境应先在测试设备验证。
限制与下一步
当日来源仅确认上述层输入记录补齐与文件级改动规模,未给出Granite模型在推测解码下的延迟对比、吞吐提升比例与显存变化数据,正确性改善以仓库测试套件为准,实际加速效果需结合自身负载实测。当日来源未将本次列为安全修复版本,未声明具体操作系统与硬件覆盖清单,不作普遍可用或性能保证。许可证按MIT不变处理,对比显示本次仅触及Granite模型图构建范围,实际复用仍以仓库许可证文件与自身合规评估为准,不对维护持续性作保证。建议先在隔离或测试环境升级至b11812,重点验证Granite相关模型在目标设备上是否正常加载与推理且无回归,再决定是否跟随。后续进展以同一仓库Release页面为准,不补发往日版本动态。