ggml-org于上海时间2026年10月22日15时04分通过GitHub Release发布llama.cpp预发布b11809,对应接口published_at为2026年10月22日07时04分02秒,预发布标记为真,标签与名称均为b11809。仓库归属为ggml-org组织下的公开仓库llama.cpp,项目定位为C与C++本地大模型推理引擎,覆盖llama-server自托管、多后端本地部署与Web界面管理。中国用户可直接查看发布页与接口验证版本与发布时间,不以聚合榜单、转载或搜索片段为准。本次对比区间为b11808至b11809,共合入1笔提交、5个文件变更,不涉及许可证变更,沿用当日拉取确认的MIT条件。该版本为高频预发布节奏中的常规迭代,聚焦WebGPU后端量化支持,对终端对话主流程无直接变更。本次均以当日发布页、发布接口与对比接口核验,不补发往日版本动态。
关键变化
对比区间为b11808至b11809共1笔提交,提交哈希为0b1281ae,作者时间为2026年10月22日05时30分04秒即上海13时30分,对应合入请求#30914,由Chanho Lee提交。变更主题为webgpu增加Q2_0支持,包含两部分:新增WebGPU侧Q2_0行反量化路径,以及新增Q2_0矩阵乘实现,共涉及5个文件变更。基线提交为b11808对应的4912ac2,作者时间为当日05时24分12秒即上海13时24分,主题为dflash可选全连接输入缩放加载。发布说明未标记破坏性变更与安全修复,MIT不变。本次发布事件与提交事件均位于上海时间10月22日当日窗口,满足当日资讯硬门槛。
适用对象与兼容性
本次主要面向在浏览器与跨平台图形栈使用WebGPU后端进行本地推理的用户。此前WebGPU后端缺失Q2_0量化类型的完整支持,使用Q2_0量化模型可能无法正常加载或回退到低效路径,更新后行反量化与矩阵乘补齐,相关模型可在WebGPU环境直接运行。对CPU、CUDA、Vulkan等其他后端与已有模型权重、启动参数无直接影响,公开仓库无需授权即可查看与拉取源码,实际使用需自行编译对应后端并准备模型权重。从源码升级的用户建议清理构建目录后重新编译WebGPU目标,国内用户需自行解决GitHub网络可达性并核对工具链与驱动版本。本次为预发布版本,不建议直接用于生产全量升级,WebGPU生产环境应先在测试设备验证。
限制与下一步
当日来源仅确认上述WebGPU Q2_0功能新增,未给出各设备上的精度对比、性能提升比例与功耗数据,实际加速效果与正确性需结合自身硬件实测。当日来源未将本次列为安全修复版本,未声明具体浏览器与操作系统覆盖清单,不作普遍可用或性能保证。许可证按MIT不变处理,实际复用仍以仓库许可证文件与自身合规评估为准,不对维护持续性作保证。建议先在隔离或测试环境升级至b11809,重点验证Q2_0量化模型在目标WebGPU设备上是否正常加载、输出是否符合预期且无回归,再决定是否跟随。后续进展以同一仓库Release页面为准,不补发往日版本动态。