ggml-org于上海时间2026年10月22日09时26分通过GitHub Release发布llama.cpp预发布b11804,对应接口published_at为2026年10月22日01时26分20秒,预发布标记为真,标签与名称均为b11804。仓库归属为ggml-org组织下的llama.cpp公开仓库,项目定位为C与C++本地大模型推理引擎,中国用户可直接查看发布页与拉取源码。本次对比区间为b11803至b11804,仅合入一笔OpenCL算子提交,不涉及许可证变更,沿用当日拉取确认的MIT条件。该版本延续高频预发布节奏,为OpenCL后端补齐缺失的归约算子,对终端对话功能无直接变化。本次均以当日发布页、发布接口与提交页核验,不以聚合榜单或搜索片段为准。
关键变化
对比区间为b11803至b11804共1笔提交,提交哈希为c7fc5094179bf8a9c73c18593db714f8da41a402,作者时间为2026年10月22日01时02分50秒即上海时间10月22日09时02分,发布事件为上海时间10月22日09时26分;关联PR为#30897,由kurquhar提交,Li He参与合著,OpenCode辅助。变更在OpenCL侧新增F32到I32的ARGMAX算子,含内核注册、按需加载与初始化对齐CPU为0的修正,提交统计为128行变更含126行新增与2行删除;涉及文件为ggml-opencl的构建清单与后端实现。发布说明未标记破坏性变更与安全修复,MIT不变。
适用对象与兼容性
本次主要面向使用OpenCL后端做本地推理的用户,特别是Intel显卡、集成显卡及移动端Adreno等依赖OpenCL加速的自托管与端侧场景,需要在GPU侧直接做取最大值索引归约的推理与评测链路。改动集中在OpenCL内核加载与执行路径,对CPU、CUDA、Vulkan等后端保持原有实现,未启用OpenCL ARGMAX的存量模型继续走原有回退与现有算子,不影响已有模型权重与对外接口。公开仓库无需授权即可查看发布页与拉取源码,实际使用需自行编译对应后端并准备模型权重。从源码升级的用户建议清理构建目录后重新编译OpenCL目标,国内用户需自行解决GitHub网络可达性并核对编译工具链与驱动版本。本次为预发布版本,不建议直接用于生产全量升级,存量服务宜先在隔离或测试环境验证。
限制与下一步
当日来源仅确认新增OpenCL的F32到I32 ARGMAX基础实现,未给出该算子在各OpenCL设备上的性能与精度对比数据,实际加速与正确性需结合自身硬件实测。当日来源未将本次列为安全修复版本,未声明具体机型覆盖与性能提升比例,不作普遍加速或兼容保证。许可证按MIT不变处理,实际复用仍以仓库许可证文件与自身合规评估为准,不对维护持续性作保证。建议先在隔离环境升级至b11804,重点验证OpenCL后端能否正常加载新内核、ARGMAX结果是否与CPU一致,以及原有模型回归是否正常,再跟随后续预发布。后续进展以同一仓库发布页为准,不补发往日版本动态。