ggml-org于上海时间2026年10月21日8时31分通过GitHub Release发布llama.cpp预发布b11767,接口显示published_at为2026-10-21T00:31:00Z,prerelease标记为true,标签与名称均为b11767。仓库归属为ggml-org组织下的ggml-org/llama.cpp,项目定位为本地大模型推理引擎,覆盖llama-server自托管与CPU、CUDA、Vulkan等多后端本地部署。本次当日发布页未提及许可证变更,沿用站内已核验的MIT条件。中国用户可通过当日Release页面与Release API验证版本与发布时间,不以聚合榜单、转载或搜索片段为准。
关键变化
- LFM2-VL多模态投影转换时将min_tiles、max_tiles、tile_size与max_pixels_tolerance从processor_config.json写入GGUF元数据;推理侧在clip.cpp读取上述参数并以既有常量为默认值;do_image_splitting为false时映射为min_tiles与max_tiles均为1即不切分;本次为预发布常规多模态兼容改进,未声明为安全修复版本,MIT许可不变
适用对象与价值
本次主要面向使用LFM2-VL等多模态模型、需要自行转换mmproj并在本地推理的用户,包括模型转换与自托管服务维护者。此前切分参数依赖代码侧固定常量,不同processor_config配置需靠外部约定保持一致;改由GGUF元数据携带后,转换产物可自带切分策略,推理侧按文件读取并在缺省时回退旧常量,有助于减少转换与推理不一致导致的图像切分偏差。对仅使用纯文本模型、不涉及LFM2-VL图像输入的用户,本次无直接功能变化,可按常规节奏跟随。中国用户如需验证,需自行解决GitHub网络可达性,并核对转换脚本与推理构建版本一致。
兼容性与安装条件
本次为预发布版本,不建议直接用于生产全量升级,存量服务宜先在测试环境验证。发布说明将变更列为常规多模态侧改进,未标记破坏性变更,缺省回退旧常量保持了对存量GGUF文件的兼容,但涉及mmproj转换与clip图像处理路径,LFM2-VL相关用户仍需回归图像加载与多模态问答流程。仓库为公开仓库,无需授权即可查看发布页与拉取源码,当日构建产物沿用既有分发渠道,覆盖macOS、Linux、Windows、Android与iOS等。实际使用仍需配置模型权重与mmproj路径、服务端口与后端参数,可用模型范围与量化格式以本地转换为准。国内拉取与构建需自行评估网络与编译环境,升级前建议记录当前版本与服务配置以便回退。
限制与下一步
当日来源未将本次列为安全修复版本,不作安全加固保证;切分策略对显存占用、延迟与识别效果的影响未在当日发布页量化,不作普遍性能或精度提升保证。许可证方面,当日说明未提及变更,按MIT不变处理,实际复用仍以仓库许可证文件与自身合规评估为准,不对维护持续性作保证。已使用LFM2-VL的转换与推理用户建议先在隔离环境升级至b11767,重点验证新转换产物的元数据写入、旧产物的回退读取以及do_image_splitting关闭场景,确认无回归后再跟随。后续进展以同一仓库Release页面为准。