核心结论

官方宣布:ggml-org于北京时间2026年10月21日14时33分在GitHub发布llama.cpp预发布b11785,对比区间为b11784至b11785,仅合入1笔提交,核心是将MoE下投影全局amax重缩放改为按专家Token独立计算的2次幂因子,并处理POOL_1D在Meta切分逻辑中的张量并行支持,预发布状态不变。这是编辑根据官方发布接口、版本对比接口与提交记录核验后的简讯整理,归属为官方宣布,未经独立性能复测,不构成升级承诺,中国用户需结合自身模型与后端自行评估。

已核实变化

  • 根据官方对比页与提交8baabd5核验,本次为MoE数值精度与并行支持优化: 将MoE下投影的全局amax重缩放替换为沿中间维度经POOL_1D最大值归约计算的按专家Token因子,输出以相同精确2次幂因子还原,保持数值等价性; 在Meta切分状态逻辑中处理POOL_1D沿0轴切分转为复制式分片部分结果,使该归约路径可进入张量并行,避免切分后语义错误; 将重缩放激活与可选缩放张量经结构体返回并精简注释,附带后续清理事项。 以上均来自官方仓库记录,为官方宣布内容,未经独立复现,实际精度与并行收益需结合目标MoE模型、后端与驱动自行测试,不应视为普遍性能结论。

时间与版本边界

版本状态经官方接口核验为prerelease预发布,标签为b11785,发布时间为2026-10-21T06:33:35Z,换算为北京时间2026年10月21日14时33分35秒,对应提交时间为同日14时01分,均属于Asia/Shanghai当日00:00:00至23:59:59窗口。对比基准为b11784,发布时间为北京时间同日13时44分,区间仅含上述1笔当日提交,未发现往日重发、转载或摘要聚合迹象。同期b11784的OpenCL构建与SYCL iq3修复与本次MoE变更为不同事件,不构成重复,站内尚无b11785的快讯或专题页面。

影响、限制与下一步

影响限于运行MoE架构模型的本地推理与张量并行场景,用户结果为下投影缩放更贴合专家Token分布,并为后续多设备切分保留正确性,对单卡小模型用户感知有限。限制是本次未提供精度对比数据、受影响模型清单、驱动版本说明与全量回归报告,中国用户可经GitHub发布页获取对应平台包验证,重点回归MoE模型加载、推理正确性与多设备并行稳定性;预发布不宜直接覆盖生产环境。下一步为在隔离环境验证目标模型与后端组合,观察后续b1178x预发布是否补充相关测试,并在需要时查阅官方提交说明与版本对比页确认变更范围。