北京时间10月19日10时06分,ggml-org在GitHub发布llama.cpp预发布b11723,仓库接口记录发布时间为2026-10-19T02:06:12Z,对比区间为b11722至b11723。本次为常规预发布迭代,仅合入1笔提交,聚焦Hexagon后端FLASH_ATTN_EXT在更长上下文与滑动窗口注意力模型上的改进,MIT许可不变,面向骁龙与Hexagon本地推理及自行构建用户,需在测试环境验证后使用。

核心变化

本次唯一提交为31288c9c66e59377f7788d920678a565bb89dd37,由Max Krasnyansky提交,提交时间为2026-10-19T01:08:11Z即上海10月19日9时08分,提交信息为hexagon: FLASH_ATTN_EXT improvements for longer context and SWA models,对应编号#30731。改动说明包含三项:支持掩码块跳过以减少直接内存访问抓取,微调hmx到hvx的切换阈值并提及对gemma-4的提升,更新hmx门控以计入多设备数量。对比页显示本次相对b11722仅领先1个提交,提交统计为277行新增与111行删除,核心改动位于ggml/src/ggml-hexagon/ggml-hexagon.cpp与htp/flash-attn-ops.c等Hexagon相关文件。发布接口显示prerelease为true,多平台预编译资产同步产出。发布说明与提交信息均未提及破坏性变更、安全修复与许可证调整。

适用对象与访问条件

本次更新主要面向两类中国用户:一是在骁龙手机、开发板或Hexagon数字信号处理器环境运行本地推理,需要更长上下文或滑动窗口注意力模型支持的用户,可在主线获得该Flash Attention扩展改进并开展回归验证;二是从源码跟随主分支或使用预发布包做持续验证的构建维护者,可按标签b11723获取源码与预编译产出说明自行构建验证。访问条件为公开仓库https://github.com/ggml-org/llama.cpp,无需账号与付费,国内下载需自行解决网络可达性,实际验证还需具备Hexagon工具链、对应模型权重与安卓或桌面构建环境。未使用Hexagon后端或未触发该注意力路径的CPU、CUDA、Metal与Vulkan用户理论上不受直接影响。

  • 在b11722基础上发布预发布b11723,发布时间为2026-10-19T02:06:12Z即上海10月19日10时06分;仅合入1笔提交31288c9,对应#30731,改进Hexagon长上下文与滑动窗口模型的FLASH_ATTN_EXT实现;包含掩码块跳过减少直接内存访问抓取、微调hmx到hvx切换阈值、更新hmx门控计入设备数量;预发布标识为true,Linux、Windows与安卓等多平台资产同步产出;未提及破坏性变更、安全修复与许可证调整

兼容性、限制与下一步

兼容性方面,本次属于常规预发布迭代,发布接口与已核验提交信息均未提及破坏性变更、迁移要求与安全修复,可视为平滑升级。实现上集中于Hexagon注意力路径的阈值与门控逻辑调整,未触及通用接口,因此不使用该路径的模型行为应保持不变。许可证方面,发布说明与对比区间均未提及许可证调整,沿用站内已核验的MIT条件,实际使用仍以仓库许可证文件与自身合规评估为准,不对维护持续性作保证。已知限制是本次说明未给出精度评测、性能数据与受影响模型清单,不应理解为速度或成本承诺,实际效果仍受芯片型号、驱动版本、构建选项与模型结构影响。已在使用Hexagon的llama.cpp用户,建议先在测试环境从上一预发布升级至b11723,重点验证相关模型的加载、长上下文解码正确性与长时间推理稳定性,确认无异常后再评估是否跟随;若出现构建失败或运行异常,应以官方Release说明与对应提交信息为准排查,并在升级前做好回退准备。