ggml-org于上海时间2026年10月21日10时15分通过GitHub Release发布llama.cpp预发布b11773,接口显示published_at为2026-10-21T02:15:10Z,prerelease标记为true,标签与名称均为b11773。仓库归属为ggml-org组织下的ggml-org/llama.cpp,项目定位为本地大模型推理引擎,覆盖llama-server自托管与CPU、CUDA、Vulkan等多后端本地部署。本次当日发布页以新增H2O-Lightning-4B决策模型支持为主,未提及许可证变更,沿用站内已核验的MIT条件。中国用户可通过当日Release页面与Release API验证版本与发布时间,不以聚合榜单、转载或搜索片段为准。
关键变化
- 新增h2o-lightning决策模型类型,用于支持h2oai/h2o-lightning-4B,该模型为Qwen3.5-4B合并决策LoRA;新类型处理带前导空格回答、最多255标签与Python json.dumps风格浮点渲染;转换器从serve_config.json写入决策元数据与systemone模板,不匹配配置予以拒绝;对比区间为b11772至b11773主要合入该模型支持,未标记破坏性变更,MIT许可不变
适用对象与价值
本次主要面向需要在llama.cpp本地运行或转换H2O-Lightning-4B决策模型的用户,包括模型移植、评测与自托管推理维护者。此前仓库既有类型无法准确表达该模型的回答格式与标签规模,直接沿用通用类型可能导致解析或渲染偏差,转换阶段也缺少决策元数据与模板校验。本次补齐专用决策类型、转换写入与配置拒绝逻辑后,相关模型可在转换与推理链路中保持一致表达,减少因类型缺失造成的适配成本。对不使用该模型、仅运行通用对话或已有稳定版本的用户,本次无直接感知变化,可按常规节奏跟随。中国用户如需验证,需自行解决GitHub网络可达性,并核对本地构建版本与模型来源一致。
兼容性与安装条件
本次为预发布版本,不建议直接用于生产全量升级,存量服务宜先在测试环境验证。发布说明将变更列为常规模型新增,未标记破坏性变更与接口参数调整,现有启动参数、模型加载与接口路径保持兼容,但涉及新模型类型与转换模板,仍需回归模型转换、加载与简单推理流程。仓库为公开仓库,无需授权即可查看发布页与拉取源码,当日构建产物沿用既有分发渠道,覆盖macOS、Linux、Windows、Android与iOS等,实际使用仍需配置模型权重路径、服务端口与后端参数。国内拉取与构建需自行评估网络与编译环境,升级前建议记录当前版本与服务配置以便回退。
限制与下一步
当日来源未将本次列为安全修复版本,不作安全加固保证;新决策模型在通用任务上的效果与稳定性未在当日发布页量化,不作普遍能力提升保证。许可证方面,当日说明未提及变更,按MIT不变处理,实际复用仍以仓库许可证文件与自身合规评估为准,不对维护持续性作保证。需要适配H2O-Lightning-4B的用户建议先在隔离环境升级至b11773,重点验证转换是否正常写入决策元数据、错误配置是否被拒绝以及推理输出格式是否符合预期,确认无回归后再跟随。后续进展以同一仓库Release页面为准。