核心结论
北京时间 9 月 23 日 1 时 45 分,ggml-org 在 GitHub 发布 llama.cpp 预发布 b11109。本次为单点后端修正版本,核心变化是将 Metal 上 mul_mm_id 的源重缩放收紧至 ggml_prec 之后,并统一 WebGPU、CUDA 与 Vulkan 对 F32 精度 MUL_MAT_ID 的拒收逻辑。以上发布时间与预发布状态由官方仓库发布接口直接确认;具体改动内容由官方发布页说明;影响判断为编辑基于改动的解释。
变化细节
官方发布页信息显示,本次对应改动为 metal : gate mul_mm_id src1 rescale behind ggml_prec。Metal 端的调整避免在指定精度路径之外触发重缩放,减少后端间行为差异。同一版本还包括 ggml-webgpu 在源精度为 F32 时拒收 MUL_MAT_ID,以及 CUDA 与 Vulkan 在 supports_op 中对同类情形返回不支持。发布页将该逻辑描述为对不支持后端的明确拒收,而非新增算子、新增模型支持或性能优化。版本标识为 b11109,状态为预发布,非稳定版,MIT 许可信息未显示变更,并同步生成多平台预编译包。
影响与适用范围
受影响对象为在 Apple 芯片经 Metal、浏览器经 WebGPU 或桌面经 CUDA、Vulkan 运行 llama.cpp 的本地推理场景。对显式指定 F32 源精度的 MUL_MAT_ID 请求,本次使失败后端的处理更明确,有助于提前发现配置不兼容,减少运行时异常排查成本。涉及混合精度部署或跨后端验证的开发者,可在测试环境对照验证。未使用上述后端组合或未指定相关精度配置的用户,可暂不升级,继续使用现有稳定版本即可。
限制与下一步
本次为预发布快照,官方未公布相关后端的完整回归矩阵、精度对比或第三方评测结果,编辑未将其扩大为性能提升或广泛兼容承诺。预发布意味着后续仍可能调整,生产环境不宜直接覆盖稳定版。中国用户如需试用,应通过官方发布页核对版本号 b11109 与预发布标识下载对应平台包,并在测试环境验证常用模型与后端组合。若后续出现稳定版或补充说明,将以新的可核验事件另行处理。