核心变化
ggml-org 在上海时间2026年10月20日15时18分通过 GitHub 发布 llama.cpp 预发布 b11751,仓库页面记录发布时间为20 Oct 07:18,对应提交为 8466395,发布状态仍为预发布。本次核心为合入拉取请求第30854号,将 Snapdragon 交叉编译工具链从 v0.7 升级至 v0.8,同步将 Hexagon SDK 从 6.6.0.0 升级至 6.7.0.0,并正式启用 Hexagon v85 构建,新增 libggml-htp-v85 产物。发布说明明确新工具链包含对 Snapdragon 8 Elite Gen 6 系列中 Hexagon v85 的官方支持,并给出 HTP0 会话创建与批量调度的运行日志作为验证示例。对比区间为 b11750 至 b11751,变更集中在 Hexagon 后端构建链路,未涉及模型格式与推理接口调整。
适用对象与兼容条件
本次更新面向使用 Snapdragon 平台与 Hexagon NPU 的本地推理用户,包括 Linux 与 Android 端的 Snapdragon 预编译包使用者,以及自行交叉编译 Hexagon 后端的开发者。中国用户中持有骁龙笔记本、骁龙手机及相关物联网设备的自托管用户可直接受益,更新后才能构建与加载针对 v85 的 HTP 算子库。仓库归属仍为 ggml-org 名下的 llama.cpp,获取方式为访问 GitHub 发布页 b11751 标签下载源码或各平台构建产物,也可拉取对应标签后按官方 Snapdragon 文档自行编译。站内同仓库历史条目均记录许可证为 MIT,本次发布说明未提及许可证与维护状态变更。已有 b11750 的非 Hexagon 用户可将其视为常规构建链更新,无需紧急跟进。
安装访问与升级建议
用户可通过仓库发布页的 b11751 标签获取源码包、Linux 与 Android 端 Snapdragon 包及 Windows、macOS 等常规产物,也可通过 git 拉取标签后按文档使用 Snapdragon 工具链容器编译验证。自行编译 Hexagon 后端的用户,需将本地与 CI 引用的工具链镜像同步至 ghcr.io 的 v0.8 版本,并将 HEXAGON_SDK_ROOT 指向 6.7.0.0,Windows 本地构建还需同步 HEXAGON_TOOLS_ROOT 至 21.0.04,避免沿用 v0.7 镜像导致构建不一致。已部署 v84 及更早 HTP 产物的用户,建议先在测试设备上验证 libggml-htp-v85 的加载、会话创建与同一批模型的推理结果,确认驱动与固件支持后再替换线上版本。由于本次为预发布,不建议直接覆盖生产服务,应保留可用的 b11750 版本、配置文件与模型文件作为回退。
限制、安全与下一步
本次为构建工具链与 Hexagon 架构支持更新,未声明安全修复,未变更许可证与维护状态,也未提供性能对比数据,实际加速效果会因芯片型号、驱动、固件与模型而异,不作保证。v85 支持目前仅覆盖 Hexagon 后端构建链路,CPU、CUDA、Vulkan 等其他后端用户不受影响,也无需为此升级。将本地服务对外暴露时仍需自行评估身份校验与防火墙策略,不宜无保护开放。固定了 v0.7 工具链的构建脚本如遇差异,应先核对是否已同步到 v0.8 逻辑。下一步可继续跟踪该仓库 b11751 之后版本,确认 v85 在更多 Snapdragon 8 Elite Gen 6 设备上的稳定性后再决定是否批量升级。