核心结论

官方宣布:ggml-org 于北京时间 9 月 24 日 04 时 50 分在 GitHub 发布 llama.cpp 稳定版 v0.5.0,对比区间为 v0.4.1 至 v0.5.0。本次为正式稳定版而非 nightly 预发布,官方发布说明将其定位为后端性能与正确性、模型覆盖和服务端稳定性的集中更新,同步将 ggml 升级至 0.25.0。以下整理自官方发布页,尚未经独立验证。

本次变化

  • 新增 HRM-Text(DFM Mimir 1B)支持、MiMo-V2.6 转换支持、混元 HunyuanOCR 的 DFlash 支持;扩展 Nemotron MTP 与 Nemotron-H 处理、Qwen4Exp 超连接算子与稀疏闪注意力,并为 Muse Glimmer 增加 --fuse-qkv 支持。 后端性能:CUDA conv2d 采用隐式 GEMM 加速,新增 Metal MoE 与 SSM_CONV 融合优化,ggml 升级至 0.25.0 并扩展超连接、闪注意力与融合 MoE/SSM 支持。 服务端与接口:llama-server 支持多地址绑定,--host 可接受逗号分隔 TCP 地址与 UNIX 套接字;函数调用输出新增 input_image 图片支持;新增 llama_adapter_lora_init_from_file_ptr 等接口说明。 稳定性修复:修复路由模型驱逐竞态与子进程生命周期、路由日志与密钥文件透传、cpp-httplib 升级至 0.57.1;界面新增 WEBM 视频文件支持并修复移动端溢出与推理菜单等问题。

适用与限制

编辑解释:对中国用户的直接增量主要在本地部署侧,尤其是需转换或运行 MiMo-V2.6、混元 OCR 相关模型,以及使用 CUDA、Metal、英特尔与 Hexagon 等后端的用户。官方同时提到 ggml RPC 协议升级至主版本 v7,分布式 RPC 用户需同步升级客户端与服务端,否则可能出现兼容问题。发布页标注 nightly 构建为 b11146,稳定版资产以 nightly-tag 形式同步,升级前应核对所需平台预编译包是否存在。

下一步

如需升级,先在官方发布页核对 v0.5.0 与 v0.4.1 的完整变更与提交记录,在测试环境验证模型加载、转换流程与服务端启动参数;使用路由、多实例与 RPC 的部署需额外验证驱逐、日志与密钥透传行为。暂无独立媒体交叉验证,关键生产变更以仓库后续说明为准。