ggml-org于上海时间2026年10月23日02时02分通过GitHub Release发布llama.cpp预发布b11823,对应接口published_at为2026年10月22日18时02分18秒,预发布标记为真,标签与名称均为b11823。仓库归属为ggml-org组织下的公开仓库llama.cpp,项目定位为C与C加加本地大模型推理引擎,覆盖llama-server自托管、多后端本地部署与混合记忆索引。中国用户可直接查看发布页与接口验证版本与发布时间,不以聚合榜单、转载或搜索片段为准。本次对比区间为b11822至b11823,仅含1笔提交,核心为合入请求30932的GLM-5输入优化,不涉及许可证变更说明,沿用站内已核验的MIT条件,当日接口仓库字段亦显示MIT。该版本为高频预发布中的常规模型适配精简,聚焦减少冗余输入与拷贝,对终端对话主流程无直接功能变更。本次均以当日发布页、发布接口与对比页核验,不补发往日版本动态。

关键变化

对比区间为b11822至b11823,主题为GLM-5优化输入,合入请求30932由ggerganov提交并于上海时间10月22日21时59分合入,发布打包则落在10月23日当日窗口。实现上在src/models/glm5-next.cpp中移除sel_mask_2d二维视图与new_pool_flat扁平视图两项冗余输入,仅保留必要的池化掩码与索引结构,减少层间共享带来的多余拷贝;在src/llama-memory-hybrid-idx.cpp中将new_pool_idxs断言由固定二维形状改为元素总数校验,收敛混合索引状态管理。接口统计为2个文件变更、5行新增与10行删除,总计15行。发布说明未标记破坏性变更与安全修复,MIT不变。本次发布事件位于上海时间10月23日当日窗口,满足当日资讯硬门槛。

适用对象与兼容性

本次主要面向使用GLM-5系列模型与混合记忆索引的本地推理与自托管用户,包括在llama-server上运行GLM-5-Next等模型的部署,以及关注内存占用与输入构建开销的调优用户。对仅使用Qwen、DeepSeek、Llama等其他架构的已有部署,本次GLM-5路径无直接影响,升级后无需改写调用即可继续使用;对使用GLM-5的部署,需重新编译对应目标并回归混合索引与池化相关用例。从源码升级的用户建议验证GLM-5模型加载是否正常、推理输出是否一致,国内用户需自行解决GitHub网络可达性并准备模型权重。本次为预发布版本,不建议直接用于生产全量升级,生产环境应先在测试服务验证。

限制与下一步

当日来源仅确认上述两项冗余输入移除与断言收敛,未给出全模型、全硬件与长期稳定性对比,端到端显存下降与耗时改善以当日补丁规模为准,不作普遍性能保证。当日来源未将本次列为安全修复版本,未声明具体操作系统与硬件覆盖清单,不作全平台可用承诺。许可证按MIT不变处理,实际复用仍以仓库许可证文件与自身合规评估为准,不对维护持续性作保证。建议先在隔离或测试环境升级至b11823,重点验证GLM-5模型首请求是否正常、混合索引断言是否通过、既有量化模型输出是否一致,再决定是否跟随。后续进展以同一仓库Release页面为准,不补发往日版本动态。