ggml-org于上海时间2026年10月21日20时16分通过GitHub Release发布llama.cpp预发布b11795,对应published_at为2026-10-21T12:16:20Z,prerelease标记为true,标签与名称均为b11795。仓库归属为ggml-org组织下的ggml-org/llama.cpp,项目定位为C/C++本地大模型推理引擎,公开仓库且非复刻,中国用户可直接查看发布页与拉取源码。本次对比区间为b11793至b11795,共合入2笔当日提交,分别涉及服务端Anthropic兼容接口与第三方依赖版本引用,不涉及新模型支持与许可证变更,沿用当日仓库接口确认的MIT条件。本次不以聚合榜单、转载或搜索片段为准,均以当日Release页面、Release接口与对比接口核验。
关键变化
- 对比区间为b11793至b11795共2笔提交,均发生于当日;服务端/v1/messages新增extra_params透传llama.cpp采样参数如seed、min_p与repeat_penalty,请求改为整体透传而非仅拷贝固定键;将BoringSSL由0.20260929.0升级至0.20261020.0,仅调整版本引用;发布说明未标记破坏性变更与安全修复,MIT不变
适用对象与价值
本次主要面向使用llama.cpp服务端Anthropic兼容接口/v1/messages做自托管与网关接入的用户,以及维护服务端构建与依赖版本的用户。此前该接口仅支持固定映射字段,seed、min_p与repeat_penalty等llama.cpp采样参数无处透传,需要额外转换或无法生效。本次合入后,可在请求体以extra_params对象携带上述参数并合并至转换后请求,行为与/v1/chat/completions一致。对仅使用OpenAI兼容文本接口、本地命令行推理且不经过Anthropic兼容路径的用户,本次无直接感知变化,可按常规节奏跟随。中国用户如需验证,需自行解决GitHub网络可达性,并核对本地服务端版本与网关配置。
兼容性与安装条件
本次为预发布版本,不建议直接用于生产全量升级,存量服务宜先在隔离或测试环境验证。发布页未标记破坏性变更,现有启动参数、模型加载与文本接口路径保持兼容,但Anthropic兼容接口请求处理逻辑变化涉及采样参数透传,升级前建议记录当前版本与网关映射配置以便回退。仓库为公开仓库,无需授权即可查看发布页与拉取源码,当日构建产物沿用既有分发渠道,实际使用仍需配置模型权重路径、服务端口与后端参数。国内拉取与编译需自行评估网络、工具链与编译环境,确认构建日志无新增告警后再推进。
限制与下一步
当日来源未将本次列为安全修复版本,BoringSSL版本升级仅为依赖引用更新,不作安全加固保证;不同网关、采样参数组合与模型下的实际效果差异未在当日发布页量化,不作普遍质量提升保证。许可证方面,当日仓库接口显示为MIT License且发布说明未提及变更,按MIT不变处理,实际复用仍以仓库许可证文件与自身合规评估为准,不对维护持续性作保证。需要使用的用户建议先在隔离环境升级至b11795,重点验证/v1/messages是否正确透传extra_params、原有固定字段是否保持兼容,确认无回归后再跟随。后续进展以同一仓库Release页面为准。