ggml-org于上海时间2026年10月23日07时43分通过GitHub Release发布llama.cpp预发布b11829,对应接口published_at为2026年10月22日23时43分43秒,预发布标记为真,标签与名称均为b11829。仓库归属为ggml-org组织下的公开仓库llama.cpp,项目定位为C与C加加本地大模型推理引擎,覆盖llama-server自托管、重排序与多后端本地部署。中国用户可直接查看发布页与接口验证版本与发布时间,不以聚合榜单、转载或搜索片段为准。本次对比区间为b11828至b11829,仅合入1笔提交,对应提交184f653,由Pengkun-ZHU提交并于上海时间10月23日06时38分合入,核心为服务端重排序模板只按原始模板替换占位符,不涉及许可证变更说明,沿用当日仓库接口显示的MIT条件。该版本为高频预发布中的服务端模板修复,聚焦重排序提示组装正确性,对通用对话主流程无直接功能变更。本次均以当日发布页、发布接口与对比接口核验,不补发往日版本动态。
关键变化
对比区间为b11828至b11829,主题为重排序模板占位符替换修复,核心提交信息为server: Substitute rerank placeholder from the original template only。修复前若用户输入的查询或文档本身含有花括号占位符文本,例如查询中出现{document},会在模板替换后被二次展开,导致组装结果与原始输入不一致。实现上改为只扫描原始模板中的{query}与{document}占位符并替换为输入原文,输入中的同形文本不再参与第二轮替换,同时补齐format_rerank_template单元测试,覆盖普通输入、占位符出现在查询或文档、两侧同时含占位符、重复与相邻占位符、单侧模板、无占位符固定模板、未知与不完整占位符、嵌套花括号、边界拼接及空输入等情形。发布说明与提交信息均未标记破坏性变更与安全修复,MIT不变。本次发布事件位于上海时间10月23日当日窗口,满足当日资讯硬门槛。
适用对象与兼容性
本次主要面向使用llama-server重排序接口的自托管用户,包括调用服务端重排序能力做检索重排、自定义重排序模板或在查询文档中透传原始花括号文本的用户,以及基于服务端模板做二次开发的调优用户。对仅使用文本对话、补全或图像推理的已有部署,本次重排序模板路径无直接影响,升级后无需改写调用即可继续使用;对重排序用户,升级后含占位符形态输入的组装结果更符合预期,需验证既有模板输出是否变化,国内用户需自行解决GitHub网络可达性并重新编译对应目标。本次为预发布版本,不建议直接用于生产全量升级,生产环境应先在测试服务验证。
限制与下一步
当日来源仅确认重排序占位符改为按原始模板单次替换并补齐回归测试,未给出重排序准确率、延迟或全硬件对比,检索质量提升不作保证。当日来源未将本次列为安全修复版本,未声明具体操作系统与硬件覆盖清单,不作全平台可用承诺。许可证按MIT不变处理,实际复用仍以仓库许可证文件与自身合规评估为准,不对维护持续性作保证。建议先在隔离或测试环境升级至b11829,重点验证含花括号输入的重排序请求是否不再二次展开、常规重排序输出是否一致、既有文本推理是否受影响,再决定是否跟随。后续进展以同一仓库Release页面为准,不补发往日版本动态。