核心结论
10月21日,ggml-org 在 GitHub 发布 llama.cpp 预发布 b11760。根据官方发布接口记录,该版本发布时间为北京时间当日 5 时 49 分,状态为预发布。在 b11759 基础上仅合入 1 笔提交,主题为修复 HIP 与 CUDA 在 mul_mat_id 路径中分块宽度不能被 64 整除时的归约取值,改用设备实际 warp_size 替代硬编码常量。据官方提交说明确认,此为 HIP 与 CUDA 推理正确性修复,不改变模型支持范围与对外接口,预发布状态不变。中国用户可直接查阅官方发布页核验版本归属,本文仅说明该单笔修复的范围与限制,不构成升级保证。
版本与时间
对比区间为 b11759 至 b11760,共 1 个提交、1 个文件变更,提交哈希为 b684498,对应拉取请求编号 30836。版本提交时间为北京时间 10 月 20 日 19 时 32 分,最终以官方发布接口中的 published_at 为准,即北京时间 10 月 21 日 5 时 49 分。该日期已通过官方 API 确认属于上海当日窗口,未使用往日转载或聚合页补充背景。b11760 延续预发布序列,不属于稳定版,历史同序列版本均需在测试环境验证后使用,本次同样适用。
变化内容
官方提交标题为 HIP 与 CUDA 修复 mul_mat_id 中分块宽度非 64 倍数时的归约问题。具体实现为在 ggml-cuda.cu 中两个判断位置新增读取设备 warp_size,并在是否使用 mmf 路径的判断中以该变量替代原硬编码 WARP_SIZE,共 5 行新增、2 行删除。此前在部分 AMD 与 NVIDIA 设备上 warp 配置与假设不一致时,可能误判是否进入融合路径,影响归约结果正确性。修复后按设备实际上报值判断,改动范围明确且可通过官方提交页逐行核验。
影响与限制
本次修复仅影响使用 HIP 或 CUDA 后端的本地推理与自托管服务用户,且仅在触发 mul_mat_id 融合判断并遇到分块宽度不能被 64 整除时才有实质差异。其他后端如 Metal、Vulkan、SYCL、CPU 与非融合执行路径不受直接影响,稳定版用户如未使用相关预览构建也无需跟随升级。现有信息来自官方宣布与代码提交,尚未见独立第三方评测,实际收益需结合自身任务验证。
下一步
预发布构建仅供测试,建议在隔离环境验证 HIP 与 CUDA 相关任务是否恢复正常,生产服务不宜直接覆盖升级。需要升级的用户应先备份配置与模型,再获取 b11760 预发布包回归关键用例。如需核验,可对照官方发布页确认版本号与预发布状态,对照官方提交页确认变更内容。编辑解释部分仅为阅读辅助,事实以官方发布页与提交记录为准。