核心结论
官方发布页标明,ggml-org于北京时间2026年10月27日3时45分发布llama.cpp预发布b11906,对应UTC时间为2026-10-26T19:45:36Z,预发布状态不变。官方发布说明显示,本次在b11905基础上合入1项提交,均集中在ggml-cpu拼接内核重写。编辑已核验发布时间与提交内容,尚未发现独立第三方解读,以下细节均以官方仓库页面为准。
本次变化
- 1. 单内核覆盖全类型:官方提交记录为ggml-cpu : rewrite concat as one row kernel for all types(#31179),每目标行仅来自src0、src1或dim 0上两行拼接,稠密源行一次拷贝,含量化类型,跨步源按编译期已知元素尺寸逐元拷贝。 2. 分块多线程拷贝:不再仅按i2分线程,改按行分摊并以32为分块拷贝,转置源在外层循环遍历,使同块行读取相邻地址,避免按整行跨步跳跃。 3. 测试补齐:新增转置b用例、delta-net卷积输入布局用例与性能用例,覆盖拼接路径回归。
影响与限制
对中国自托管用户而言,本次更新的直接价值在于CPU路径拼接算子的可维护性与转置场景拷贝效率改进,适合本地大模型联调与离线推理。官方实现仍属ggml-cpu后端细节重构,不改变模型能力、量化格式与外部接口,CUDA、Vulkan、SYCL等后端不受直接影响。官方仍将其标记为预发布,构建产物为自动化生成,行为仍可能调整,不应视为生产级稳定性保证,也不宜据此推断后续版本节奏。
下一步
建议CPU与自托管用户先在测试环境拉取b11906验证拼接相关推理、转置输入与多轮生成是否正常,重点确认delta-net等卷积布局场景无异常回退,再决定是否跟进后续预发布。可通过官方发布页查看对应构建产物与提交说明核对单项变更,不以单次预发布推断长期路线。若需生产部署,应等待正式版本或经充分验证的稳定标签,并按备份后验证的流程升级。