ggml-org于上海时间2026年10月21日13时44分通过GitHub Release发布llama.cpp预发布b11784,对应published_at为2026-10-21T05:44:28Z,prerelease标记为true,标签与名称均为b11784。仓库归属为ggml-org组织下的ggml-org/llama.cpp,项目定位为本地大模型推理引擎,覆盖llama-server自托管与多后端本地部署。本次对比区间为b11782至b11784,仅合入2笔构建与后端修复,不涉及模型支持新增与许可证变更,沿用站内已核验的MIT条件。中国用户可通过当日Release页面与Release API验证版本与发布时间,不以聚合榜单、转载或搜索片段为准。
关键变化
- 对比区间为b11782至b11784共2笔提交,未标记破坏性变更;其一为OpenCL rope程序在新版Clang下因float与half指针不兼容导致的构建错误修复,对应合入请求30893,提交时间为当日00时19分08秒;其二为SYCL后端iq3量化反量化路径越界写导致的崩溃修复,对应合入请求30604,提交时间为当日05时04分13秒,涉及convert.cpp与dequantize.hpp;发布说明未提及许可证变更,MIT不变,当日未声明为安全修复版本
适用对象与价值
本次主要面向使用OpenCL后端与SYCL后端做本地推理的用户,包括在新版Clang工具链下构建OpenCL版本失败的维护者,以及在英特尔显卡环境使用iq3量化模型时遇到崩溃的自托管用户。此前新版Clang会直接报指针类型不兼容错误导致构建中断,iq3的xxs与s类反量化会因输出偏移错误触发崩溃或错误结果,需要绕行旧工具链或避开相关量化。本次合入后,同一构建流程可正常完成,相关量化路径按修正后的偏移执行,OpenCL与英特尔显卡用户可在测试环境验证后跟随。对仅用CPU、CUDA、Vulkan或未使用iq3量化的用户,本次无直接感知变化,可按常规节奏跟随。中国用户如需验证,需自行解决GitHub网络可达性,并核对本地构建版本与后端参数。
兼容性与安装条件
本次为预发布版本,不建议直接用于生产全量升级,存量服务宜先在测试环境验证。发布说明未标记破坏性变更与既有接口参数调整,现有启动参数、模型加载与文本接口路径保持兼容,但构建环境要求变化,OpenCL用户需确认Clang版本与构建日志,SYCL用户需确认驱动与量化模型类型。仓库为公开仓库,无需授权即可查看发布页与拉取源码,当日构建产物沿用既有分发渠道,实际使用仍需配置模型权重路径、服务端口与后端参数。国内拉取与构建需自行评估网络与编译环境,升级前建议记录当前版本与服务配置以便回退。
限制与下一步
当日来源未将本次列为安全修复版本,不作安全加固保证;OpenCL与SYCL在不同驱动、工具链与模型下的实际构建结果与推理延迟未在当日发布页量化,不作普遍性能提升保证。许可证方面,当日说明未提及变更,按MIT不变处理,实际复用仍以仓库许可证文件与自身合规评估为准,不对维护持续性作保证。需要使用的用户建议先在隔离环境升级至b11784,重点验证OpenCL构建是否通过、iq3模型在SYCL下是否不再崩溃,确认无回归后再跟随。后续进展以同一仓库Release页面为准。