ggml-org于上海时间2026年10月22日00时01分通过GitHub Release发布llama.cpp预发布b11797,对应published_at为2026年10月21日16时01分17秒,预发布标记为真,标签与名称均为b11797。仓库归属为ggml-org组织下的llama.cpp公开仓库,项目定位为本地大模型推理引擎,中国用户可直接查看发布页与拉取源码。本次对比区间为b11796至b11797,仅合入一笔提交,涉及OpenCL后端IM2COL_3D支持与类型统一,不涉及新模型权重发布与许可证变更,沿用当日许可证接口确认的MIT条件。本次均以当日发布页与接口核验,不以聚合榜单或搜索片段为准。

关键变化

  • 对比区间为b11796至b11797共一笔提交,提交时间为上海时间2026年10月21日22时59分,发布事件为上海时间10月22日00时01分;为ggml-opencl新增IM2COL_3D支持,共320行新增;统一OpenCL内核与主机侧数据类型;修复旧款Adreno设备兼容问题;发布说明未标记破坏性变更与安全修复,MIT不变

适用对象与价值

本次主要面向使用llama.cpp OpenCL后端的本地推理用户,特别是依赖高通Adreno等移动与桌面GPU进行模型推理的用户,以及维护OpenCL构建的开发者。IM2COL_3D是卷积类算子在OpenCL上的实现路径补充,有助于相关模型在OpenCL路径下的算子覆盖与后续性能调优。对仅使用CUDA、Metal、CPU或SYCL后端且不经过OpenCL路径的用户,本次无直接感知变化,可按常规节奏跟随。中国用户验证前需自行解决GitHub网络可达性,并核对本地OpenCL驱动与构建选项。

兼容性与安装条件

本次为预发布版本,不建议直接用于生产全量升级,存量服务宜先在隔离或测试环境验证。发布页未标记破坏性变更,现有启动参数与文本推理接口保持兼容,但OpenCL相关构建文件发生变化,涉及CMakeLists与内核源码,从源码编译的用户升级前建议清理构建目录后重新编译。公开仓库无需授权即可查看发布页与拉取源码,实际使用仍需配置模型权重路径与后端参数。国内编译需自行评估工具链与OpenCL SDK版本,确认构建日志无新增报错后再推进。

限制与下一步

当日来源未将本次列为安全修复版本,未声明性能提升比例与具体模型覆盖范围,不作普遍加速保证。IM2COL_3D在不同Adreno驱动版本与显存条件下的实际效果差异未在当日发布页量化,需结合自身硬件实测。许可证按MIT不变处理,实际复用仍以仓库许可证文件与自身合规评估为准,不对维护持续性作保证。建议先在隔离环境升级至b11797,重点验证OpenCL构建是否通过及常用模型能否正常加载,再跟随后续版本。后续进展以同一仓库发布页为准。