ggml-org于上海时间2026年10月22日20时27分通过GitHub Release发布llama.cpp预发布b11818,对应接口published_at为2026年10月22日12时27分19秒,预发布标记为真,标签与名称均为b11818。仓库归属为ggml-org组织下的公开仓库llama.cpp,项目定位为C与C加加本地大模型推理引擎,覆盖llama-server自托管、多后端本地部署与检索重排序服务。中国用户可直接查看发布页与接口验证版本与发布时间,不以聚合榜单、转载或搜索片段为准。本次对比区间为b11815至b11818,共合入1笔提交,目标提交为a5d22276,对应合入请求29625,合并时间为当日11时27分25秒即上海19时27分,不涉及许可证变更说明,沿用站内已核验的MIT条件。该版本为高频预发布中的常规服务端迭代,聚焦重排序接口的内容形态与校验收敛,对终端对话主流程无直接变更。本次均以当日发布页、发布接口与对比页核验,不补发往日版本动态。
关键变化
对比区间为b11815至b11818共1笔提交,主题为服务端重排序支持类型化内容输入,合入请求29625由timothywang21提交,构建于此前28876与29556的多模态工作之上,目标为完整支持Qwen3-VL重排序与嵌入模型。实现上将内联的重排序处理抽取为独立的handle_rerank_impl方法,服务端重排序接口接受类型化内容输入,明确该接口遵循JINA与TEI格式而非OpenAI接口格式。校验收敛包括无重排序模板时直接拒收多模态输入,避免图片被静默丢弃;媒体下载与Base64解析失败由500改为400;负数top_n由可能触发异常改为400拒绝;同时清理注释与缩进,并更新README说明TEI输入与Jina接受相同形态。发布说明未标记破坏性变更与安全修复,MIT不变。本次提交、合并与发布事件均位于上海时间10月22日当日窗口,满足当日资讯硬门槛。
适用对象与兼容性
本次主要面向自托管llama-server重排序服务的用户,包括以JINA或TEI格式调用重排序接口的检索、问答与智能体管线,以及需要在同一服务内使用Qwen3-VL重排序与嵌入模型的本地部署。对仅使用纯文本重排序的已有调用,接口形态兼容,升级后无需改写请求体即可继续使用;对尝试传入图片或多模态内容的调用,需先确认所用模型具备重排序模板,否则此前可能静默忽略图片,更新后会收到明确的400拒绝,需要调用方补齐模板或改为纯文本。错误码变化要求客户端区分400与500的重试策略,媒体失败与参数错误不再触发服务端异常重试逻辑。从源码升级的用户建议重新编译服务端目标并回归重排序用例,国内用户需自行解决GitHub网络可达性并准备模型权重。本次为预发布版本,不建议直接用于生产全量升级,生产环境应先在测试服务验证。
限制与下一步
当日来源仅确认上述类型化输入、模板校验、错误码收敛与文档说明,未给出各模型上的重排序精度对比、延迟变化与资源占用数据,多模态效果以Qwen3-VL相关模型实测为准,不作普遍精度或性能保证。当日来源未将本次列为安全修复版本,未声明具体操作系统与硬件覆盖清单,不作全平台可用承诺。许可证按MIT不变处理,实际复用仍以仓库许可证文件与自身合规评估为准,不对维护持续性作保证。建议先在隔离或测试环境升级至b11818,重点验证文本与多模态重排序请求是否返回预期排序、错误码是否为400分类正确、既有管线是否误用重试,再决定是否跟随。后续进展以同一仓库Release页面为准,不补发往日版本动态。