关键变化

ggml-org 于上海时间 2026 年 10 月 20 日 19 时 18 分发布 llama.cpp 预发布 b11755,对比区间为 b11753 至 b11755,共合入 2 笔提交。该版本仍为预发布状态,不是稳定版,仓库许可证仍为 MIT,没有许可证变化,也没有附带安全公告。两笔改动分别位于 Metal 推理内核与持续集成检查脚本,属于小范围修正,不涉及新模型接入与接口破坏性调整。

  • Metal 补齐每 token 九专家 MoE 内核变体:在 ggml/src/ggml-metal/kernels/mul_mm.metal 新增 ne20_9 模板一行,覆盖此前缺失的 9 专家组合;CI 修正 API 兼容检查严格模式:在 scripts/check-apiabi-compat.sh 中按命令行参数决定是否传递 -strict,不再无条件强制严格。

适用对象与兼容性

本次最直接的受益对象是使用 Apple Silicon 经 Metal 后端运行混合专家模型的本地推理用户,特别是路由为每 token 九专家配置的模型。此前缺失对应内核变体可能导致构建或运行时无法找到匹配实现,补齐后有助于减少此类兼容问题。对仅使用 CPU、CUDA、Vulkan、SYCL 或服务端功能的用户,本次运行时影响较小。CI 脚本改动主要影响仓库贡献者与自动化检查流程,不改变已发布二进制的功能行为。整体兼容口径与 b11753 一致,升级不需要更换依赖与数据格式。

获取与升级建议

中国用户可经官方仓库 ggml-org/llama.cpp 的 Releases 标签 b11755 获取源码与多平台构建产物,发布页同时提供与上一版本的对比入口。由于 GitHub 访问与大文件下载受网络条件影响,使用前宜自行评估网络与构建环境。本地已部署 b11753 或更早预发布的用户,建议先在测试环境验证常用模型与脚本,重点检查 Metal 路径下混合专家模型的加载与推理是否正常,再决定是否替换生产目录。源码构建用户可直接同步标签后重新编译,容器与包管理用户以各自渠道跟进为准。

限制与下一步

本次为预发布例行迭代,改动范围小,官方未给出性能提升数字,也未声明修复安全漏洞,不能据此得出安全性或长期维护结论。Metal 修复仅为一行模板补齐,是否完全覆盖全部九专家模型的边界情况,仍需结合具体模型在自有设备上实测。CI 修正属于工程效率改进,不应理解为放宽兼容性要求。下一步宜关注后续预发布是否继续完善 Metal 与测试覆盖,若在生产使用中遇到 MoE 相关构建失败,可保留构建日志并对照官方提交与对比页核对,再决定回退到 b11753 或等待新版本。