关键变化

llama.cpp b10934 是 ggml-org 于 2026-09-13T00:15:56Z 发布的预发布版本,对应上海时间 2026-09-13 08:15,发布接口标记 prerelease 为 true,目标提交为 acecd56032ddc34bada14a2d978f110d9c987095。本次相对上一预发布为常规迭代,未声明许可证变更、安全修复或维护状态变化,版本性质为内部重构型版本更新。发布说明主体为 common_schema 内部表示的首次落地,对应改动合集 #28736,覆盖类型定义、优化器、字典树复用、类型解析与语法生成链路的系统性调整。

具体包括:新增 common_schema 类型体系并实现 JSON Schema 优化器;引入 common_trie 承载结构复用;实现 type 与 kind 解析;将 json-schema-to-grammar 重构为使用 common_schema;移除旧 common_chat_tool_parameters,改为透传 common_schema 并简化解析流程;将枚举收拢到 common_schema 并补充类型枚举;精简测试用例并清理无效代码;修复空 $ref、空工具参数、may_be_string 判定、空对象 {} 语义、minLength 与 maxLength 隐含字符串类型的处理;将 common_schema 重命名为 common_chat_schema;修复 gcc dangling-reference 告警与文档同步。直接影响工具调用参数解析、response_format 结构化输出与惰性语法构建路径。

兼容性与访问条件

仓库归属为 ggml-org/llama.cpp,公开仓库,描述为 LLM inference in C/C++,现有已核验许可证为 MIT,可在保留版权声明条件下分发与修改,本次未发生许可证变化。本次发布资产与往版一致提供预编译包,已在当日发布页核验包括 Windows(含 CPU、CUDA 12/13、Vulkan、OpenVINO、SYCL、ROCm)、macOS arm64 与 x64、Ubuntu(含 CPU、Vulkan、ROCm、OpenVINO、SYCL)、Android arm64 以及 iOS XCFramework 与统一 UI 包。用户可从 Release 页面按平台下载对应压缩包,或克隆仓库自行编译,访问无需额外授权。

兼容性方面,官方未在本次说明中声明破坏性接口变更,模型文件、GGUF 读写与已有量化权重无需重转。变更集中在服务端与本地进程的工具调用语法生成阶段,不改变模型推理数值逻辑。对中国用户的实际意义是开发侧重构而非功能新增:仅做本地 CPU、CUDA 或 Metal 推理且不使用工具调用、结构化输出的用户行为基本不变;使用 server 工具调用、function calling、JSON 约束生成或自定义聊天模板的用户,需要在预发环境验证工具参数解析、必填与可选参数拆分、空参数与空引用的容错,以及语法约束下的输出稳定性,确认常用智能体 smoke 通过后再升级生产。

限制与下一步

  • 预发布单点重构版本,不适合当作稳定版直接全量替换;本次未声明安全漏洞修复,不应解读为安全加固版本;改动未涉及模型新增、量化格式或硬件后端新增,不要期待推理速度或新模型支持变化;重构覆盖工具调用与语法生成主路径,不同编译器与模板组合仍需实测;IntelLLVM、MSVC 与 GCC 的差异仍需按各自链路排查

中国用户如已在使用 b10932 或 b10933 且构建正常,可按需评估:仅使用预编译包做本地推理且不使用工具调用的,可暂缓;自行编译、维护 server 工具调用或依赖结构化输出的,建议先拉取 b10934 验证干净构建与增量构建,对比工具调用回归与结构化输出用例无异常后再推广。后续进展以同一仓库 Release 页面为准,不以聚合榜单或转载为准。