核心变化
结论:北京时间10月23日1时33分,ggml-org在GitHub发布llama.cpp预发布b11822。这是当日新发生的版本事件,状态明确为预发布,不是稳定版。据官方发布接口核验,发布时间为2026-10-22T17:33:06Z,构建由github-actions机器人完成。中国本地推理用户可将其理解为一次qwen4exp与推测解码兼容修复,而非功能新增或性能升级。
官方发布说明显示,本次修复qwen4exp层输入与DFlash草稿器的不兼容:qwen4exp将其超连接残差以[n_embd, hc, n_tokens]形式作为层输入暴露,而草稿器按[n_embd, n_tokens]行读取,llama_context按n_embd乘批次分配层输入缓冲,DFlash编码器输入按提取数乘嵌入宽取值,以qwen4exp为目标评估DFlash草稿会在首个请求触发中断。修复沿用deepseek4对超连接残差的处理,以均值折叠多流,并在仅为草稿器实际请求的层构建该均值。以上均为官方发布页描述的事实,编辑不将其表述为准确率或速度提升。
影响与限制
受影响对象为使用llama.cpp预发布构建加载qwen4exp系模型,并启用DFlash推测解码的本地推理与自托管服务端用户。对未使用该模型系、未启用推测解码、固定版本部署的用户,本次无必须跟进的理由。限制有四:一是预发布不变,不建议直接替换生产构建;二是本次未变更许可证、分发渠道与系统支持范围;三是官方未提供基准、推理质量或性能对比,不得将兼容修复理解为效果提升;四是中国区无单独说明,下载、构建与模型可用性需结合自身环境评估,异常应回退到已验证版本。
当前行动
- 1. 在测试环境拉取b11822预发布构建,核对标签名、预发布标记与发布时间是否与官方一致; 2. 如以qwen4exp为目标并启用DFlash,验证首请求不再中断,观察层输入与解码是否正常; 3. 生产环境暂不升级,待后续稳定说明或出现明确加载问题时再决策。
信息责任区分:版本号、发布时间、预发布状态与修复内容来自仓库官方发布页,属于官方宣布;“需验证”“不建议生产使用”“不做效果推断”为编辑解释;本文未引用媒体转述,也未使用搜索片段作为证据。必要背景仅来自当日官方来源,未为补充背景抓取往日页面。本条为单一当日事件的时效简讯,不替代开源项目的详细版本解读。