关键变化
llama.cpp v0.4.1 是 ggml-org 于 2026-09-14T18:27:29Z 发布的稳定版,对应上海时间 2026-09-15 02:27,发布接口标记为正式版而非预发布,稳定构建指向 nightly 构建 b10964。本次为自 v0.4.0 以来的累计稳定更新,不是单日增量预发布,版本性质为新模型支持加后端升级,未声明许可证变更、安全修复或维护状态变化。对中国用户的直接价值是腾讯混元 Hy 4 预览架构与 Spark2.5 的本地支持,以及 Qwen、Kimi、GLM 相关修正进入稳定通道。
新模型方面,本次新增三类架构支持:Maple 20B-A1B 三元 MoE 架构面向 CPU,腾讯 Hy 4 以 hy_v4 预览架构接入,Spark2.5 延续此前 nightly 已验证的支持并进入稳定版。结合此前已合入的 Qwen3-Next 与 Qwen3.5 显式 recurrent_layers 元数据、Qwen3-Coder 复杂类型解析优化与类型化内容检测,本地运行国产与混合架构模型的转换与推理路径更完整。需要明确的是 Hy 4 仍为预览架构支持,相关测试已明确排除部分 WebGPU 覆盖,生产使用前需按实际模型与硬件实测。
核心与服务端方面,本次重构 JSON Schema 内部表示为通用结构,拆分专用解析器至独立目录,新增结构化 JSONL 日志能力并默认开启推理保留。服务端将子进程处理重构为单一监控线程,修复多请求同模型挂起、模型数量上限时下载受阻,以及短提示下上下文检查点误删等问题。语法与生成侧修复模板点属性整数与空值判断,优化语法插入移动与重复阈值,修复多模态输入后推测解码与分块解码失败,并将视频标识传入位图改善缓存识别。
兼容性与访问条件
仓库归属为 ggml-org/llama.cpp,公开仓库,现有已核验站内许可证为 MIT,本次发布说明未宣布许可证变化。稳定版资产仅含指向 nightly 构建的标记文件,完整多平台预编译包在 nightly 构建提供,用户可从 Release 页面获取对应构建或克隆仓库自行编译,访问无需额外授权。ggml 同步至 0.24.0 版本,重点为精度控制接口、Vulkan、SYCL、Hexagon 与 OpenCL 的覆盖与稳健性,以及 CPU、CUDA、Metal 等后端的正确性与性能修正。
兼容性方面存在两项需主动适配的破坏性调整:一是移除已弃用的启动参数,统一改用加载模式参数,沿用旧启动脚本将直接报错;二是采样链数量接口返回值由通用整数改为固定宽度整数,直接调用该接口的二次开发与绑定需重新编译验证。此外默认在集成显卡上关闭惰性张量加载,投影与草稿设备默认跟随全局设备选择,界面资产改为直接嵌入并移除构建期辅助工具。对中国用户的实际影响分两类:仅用预编译包做本地推理且不涉及旧参数与二次开发的用户行为基本不变;维护启动脚本、服务端封装或基于接口二次开发的用户,需先在预发环境验证参数替换、编译与回归。
限制与下一步
- 稳定版未声明安全漏洞修复,不应解读为安全加固版本;Hy 4 为预览支持且排除部分测试,不要直接用于关键生产;本次未新增量化格式,速度提升主要来自后端修正而非普遍加速;多模态与推测解码修复覆盖特定路径,不同组合仍需实测;旧采集脚本消费文本日志的可暂缓,消费结构化日志的需先验证字段
中国用户如需跟进,建议先在测试环境拉取 v0.4.1 验证干净构建与常用模型回归,重点检查加载模式替换、Qwen3-Next、Qwen3.5、Kimi-K3 与 GLM 系列模型的加载与精度,以及工具调用与结构化输出是否符合预期。确认常用智能体与服务端封装回归通过后再推广生产,后续进展以同一仓库 Release 页面为准,不以聚合榜单或转载为准。