核心变化
ggml-org于上海时间2026年9月24日14时13分发布llama.cpp预发布b11153。发布接口显示published_at为2026-09-24T06:13:45Z,created_at为2026-09-24T05:02:17Z,prerelease为true,目标提交为9710a32175b3b8f04636aaac4aa3cc28651b505d。对应提交信息为hexagon: reject MUL_MAT_ID when src1 precision is F32(#29348),作者为Jhen-Jie Hong,提交时间为2026-09-24T05:02:17Z。改动位于ggml/src/ggml-hexagon/ggml-hexagon.cpp,共新增4行、删除0行,核心逻辑是在ggml_hexagon_supported_mul_mat_id中增加判断:当op参数3即精度标识为GGML_PREC_F32时直接返回false,不再进入后续量化类型分支。发布资产延续多平台同步产出节奏。
适用对象与访问条件
本次更新主要面向两类中国用户:一是在骁龙与Hexagon NPU设备上做本地推理适配与验证的开发者,需要覆盖MUL_MAT_ID算子路径时,可获得更严格的后端能力判断;二是从源码跟随主分支或使用预发布包做回归验证的构建维护者,可按标签b11153获取源码与预编译产出说明自行构建验证。访问条件为公开仓库https://github.com/ggml-org/llama.cpp,无需账号与付费,国内下载需自行解决网络可达性,实际验证还需具备对应工具链与Hexagon运行环境。
- Hexagon后端新增F32精度下拒绝MUL_MAT_ID的守卫判断;改动集中于ggml-hexagon.cpp共4行新增,未涉及模型与推理主路径;预发布标识为true,多平台资产同步产出;未提及破坏性变更、安全修复与许可证调整
兼容性、迁移与限制
兼容性方面,本次属于常规预发布迭代,发布接口与已核验提交信息均未提及破坏性变更、迁移要求与安全修复,未给出漏洞编号,可视为平滑升级。行为变化限于Hexagon后端对F32精度MUL_MAT_ID的支持判断,未使用该后端或未触发该精度路径的普通CPU、CUDA推理用户理论上不受直接影响。许可证方面,发布说明与对比区间均未提及许可证调整,沿用站内已核验的MIT条件,实际使用仍以仓库许可证文件与自身合规评估为准,不对维护持续性作保证。已知限制是本次说明未给出性能数据与受影响机型清单,不应视为普遍正确性或性能保证。
下一步建议
已在Hexagon设备上维护构建或需复现MUL_MAT_ID相关问题的测试环境用户,建议先在测试环境从上一预发布升级至b11153,重点验证F32精度输入是否按预期回退到其他可用路径,以及原有量化模型在Hexagon上的加载与推理是否正常,确认无异常后再评估是否跟随。仅做常规CPU、CUDA推理且不使用Hexagon后端的用户可继续观察,无需为本次跟随升级。若出现新的构建失败或运行异常,应以官方Release说明与对应提交信息为准排查。