ggml-org于上海时间2026年10月22日01时52分通过GitHub Release发布llama.cpp预发布b11799,对应接口published_at为2026年10月21日17时52分03秒,预发布标记为真,标签与名称均为b11799。仓库归属为ggml-org组织下的llama.cpp公开仓库,项目定位为本地大模型推理引擎,中国用户可直接查看发布页与拉取源码。本次对比区间为b11798至b11799,仅合入一笔SYCL相关提交,不涉及新模型权重发布与许可证变更,沿用当日拉取确认的MIT条件。本次均以当日发布页、发布接口与提交页核验,不以聚合榜单或搜索片段为准。

关键变化

  • 对比区间为b11798至b11799共1笔提交,提交标题为sycl: q8 fast dequant,关联PR为#30775;提交创建于2026年10月21日17时01分03秒即上海时间10月22日01时01分,发布事件为上海时间10月22日01时52分;在ggml/src/ggml-sycl/convert.cpp引入Q8快速反量化路径,改用一维平面与两对向量化存储,简化分组计算并确保行覆盖无尾部处理;本次变更共33行其中新增25行删除8行,不改变模型权重与对外接口;发布说明未标记破坏性变更与安全修复,MIT不变

适用对象与兼容性

本次主要面向使用SYCL后端在Intel显卡进行本地推理的用户,特别是关注Q8_0量化模型加载与推理效率的开发者。改动仅影响SYCL路径的反量化实现,对CUDA、Vulkan、CPU等后端无直接影响,不含模型转换参数调整。本次为预发布版本,不建议直接用于生产全量升级,存量服务宜先在隔离或测试环境验证。公开仓库无需授权即可查看发布页与拉取源码,实际使用仍需配置模型权重路径与后端参数。从源码编译的用户升级前建议清理构建目录后重新编译,国内用户需自行解决GitHub网络可达性并核对SYCL工具链版本。

限制与下一步

当日来源未将本次列为安全修复版本,未声明具体性能提升比例与覆盖机型,不作普遍加速保证。Q8快速反量化的实际收益与不同Intel显卡驱动的兼容性差异未在当日发布页量化,需结合自身硬件实测。许可证按MIT不变处理,实际复用仍以仓库许可证文件与自身合规评估为准,不对维护持续性作保证。建议先在隔离环境升级至b11799,重点验证目标Q8量化模型能否正常加载、推理输出是否一致,以及SYCL后端是否正常启用,再跟随后续版本。后续进展以同一仓库发布页为准。