ggml-org于上海时间2026年10月21日12时58分通过GitHub Release发布llama.cpp预发布b11782，接口显示published_at为2026-10-21T04:58:09Z，prerelease标记为true，标签与名称均为b11782。仓库归属为ggml-org组织下的ggml-org/llama.cpp，项目定位为本地大模型推理引擎，覆盖llama-server自托管与多后端本地部署。本次对比区间为b11781至b11782，仅合入服务端usage计数修复，不涉及模型支持新增与许可证变更，沿用站内已核验的MIT条件。中国用户可通过当日Release页面与Release API验证版本与发布时间，不以聚合榜单、转载或搜索片段为准。
关键变化
- 修复服务端OpenAI兼容接口在n大于1时usage.completion_tokens少算，仅返回首个候选计数的问题，现按全部候选累加并同步修正total_tokens；变更集中在tools/server/server-context.cpp的 completions 合并路径；同步在tools/server/tests/unit/test_chat_completion.py补齐多候选回归断言，引用问题编号29451与合入请求29486；对比区间仅1笔提交，未标记破坏性变更，MIT许可不变
适用对象与价值
本次主要面向使用llama-server兼容接口并设置n大于1或请求多候选的自托管用户，包括做网关计费、配额统计、用量监控与测试对比的服务维护者。此前多候选请求的usage完成词元数偏小，直接用于计费或监控会导致少算与对账偏差，需要外部估算或绕行处理。本次在服务端合并多结果时累加各候选的完成词元并修正总数后，同一接口返回的用量口径与OpenAI计数方式一致，相关网关可直接采用返回字段做统计。对仅用单候选、未使用多候选或不依赖usage字段的用户，本次无直接感知变化，可按常规节奏跟随。中国用户如需验证，需自行解决GitHub网络可达性，并核对本地构建版本与请求参数。
兼容性与安装条件
本次为预发布版本，不建议直接用于生产全量升级，存量服务宜先在测试环境验证。发布说明未标记破坏性变更与既有接口参数调整，现有启动参数、模型加载与文本接口路径保持兼容，但多候选请求的usage数值将变大，属于修正后的正确值，依赖旧数值的计费阈值与告警需同步复核。仓库为公开仓库，无需授权即可查看发布页与拉取源码，当日构建产物沿用既有分发渠道，实际使用仍需配置模型权重路径、服务端口与后端参数。国内拉取与构建需自行评估网络与编译环境，升级前建议记录当前版本与服务配置以便回退。
限制与下一步
当日来源未将本次列为安全修复版本，不作安全加固保证；多候选在不同模型、采样参数与后端下的实际词元数与延迟未在当日发布页量化，不作普遍性能提升保证。许可证方面，当日说明未提及变更，按MIT不变处理，实际复用仍以仓库许可证文件与自身合规评估为准，不对维护持续性作保证。需要使用多候选计量的用户建议先在隔离环境升级至b11782，重点验证n大于1时choices数量、usage中完成词元与总数是否符合预期，确认无回归后再跟随。后续进展以同一仓库Release页面为准。