北京时间2026年10月19日13时25分,ggml-org在GitHub发布llama.cpp b11724,仓库资产接口记录源码归档时间为2026-10-19T05:25:04Z,对比区间为b11723至b11724。本次为常规版本更新,仅合入1笔提交,聚焦CUDA后端flash_attn_ext_vec内核的共享内存写后读竞争修复。发布说明与提交信息均未提及破坏性变更、安全修复与许可证调整,沿用站内已核验的MIT条件,面向使用CUDA进行本地推理与自行构建的用户,需在测试环境验证后使用。
核心变化
本次唯一提交为99db719bdf07f7d537431ca556a0512bf3d995b6,由Paul Mairhofer提交并经GitHub合并,提交与归档时间同为2026-10-19T05:25:04Z即上海10月19日13时25分,提交信息为CUDA: fix shared-memory WAR hazard in flash_attn_ext_vec,对应编号#30573,合著包含Johannes Gäßler。改动仅涉及ggml/src/ggml-cuda/fattn-vec.cuh,统计为新增3行删除1行,核心是在flash_attn_ext_vec内核中补齐KQ同步所需的ggml_cuda_syncwarp调用,一处为注释澄清,另一处为新增同步,并标注Needed for KQ synchronization。对比页显示本次相对b11723仅领先1个提交、1个文件变更、2名贡献者,父提交为b11723对应的31288c9c66e59377f7788d920678a565bb89dd37。
适用对象与访问条件
本次更新主要面向两类中国用户:一是在英伟达显卡环境使用llama.cpp运行本地推理,且会触发flash_attn_ext_vec向量路径的CUDA用户,可在主线获得该同步修复并开展回归验证;二是从源码跟随主分支或使用滚动标签做持续验证的构建维护者,可按标签b11724获取源码与发布说明自行构建验证。访问条件为公开仓库https://github.com/ggml-org/llama.cpp,无需账号与付费,国内下载需自行解决网络可达性,实际验证还需具备CUDA工具链、对应模型权重与桌面或服务器构建环境。未使用CUDA后端或未触发该注意力向量路径的CPU、Metal、Vulkan与Hexagon用户理论上不受直接影响。
- 在b11723基础上发布b11724,资产时间为2026-10-19T05:25:04Z即上海10月19日13时25分;仅合入1笔提交99db719,对应#30573,修复CUDA flash_attn_ext_vec共享内存写后读竞争;仅改动ggml-cuda/fattn-vec.cuh,新增3行删除1行,补齐KQ同步所需的ggml_cuda_syncwarp;对比区间仅领先1个提交与1个文件,未提及破坏性变更、安全修复与许可证调整
兼容性、限制与下一步
兼容性方面,本次属于小范围正确性修复,提交与对比信息均未提及接口变更、迁移要求与配置调整,可视为平滑升级。实现上集中于CUDA注意力向量内核的线程束同步,不触及通用接口与模型加载逻辑,因此不使用该路径的模型行为应保持不变。许可证方面,发布说明与提交信息均未提及许可证调整,沿用站内已核验的MIT条件,实际使用仍以仓库许可证文件与自身合规评估为准,不对维护持续性作保证。已知限制是本次说明未给出精度评测、性能数据与受影响模型清单,不应理解为速度或成本承诺,实际效果仍受显卡型号、驱动版本、编译选项与模型结构影响。已在使用CUDA的llama.cpp用户,建议先在测试环境从上一标签升级至b11724,重点验证相关模型的加载、解码正确性与长时间推理稳定性,确认无异常后再评估是否跟随;若出现构建失败或运行异常,应以官方Release说明与对应提交信息为准排查,并在升级前做好回退准备。