ggml-org于北京时间2026年10月20日00时59分发布llama.cpp预发布b11738,对比区间为b11734至b11738,目标提交为f174553。本次为服务端滑动窗口注意力检查点失效逻辑的正确性修复,仓库归属ggml-org,许可证MIT不变,预发布状态不变。自托管llama-server且运行滑动窗口模型的用户宜先在测试环境验证,不宜直接用于生产全量升级。

版本定位与发布核验

官方仓库发布接口记录b11738的发布时间为2026-10-19T16:59:59Z,对应北京时间2026年10月20日00时59分,标签为b11738,预发布标识为真,目标提交为f174553e1621c6a22a64e7bfcbb58d3a5c49e6fb。对比区间为b11734至b11738,b11734发布时间对应北京时间10月19日22时08分,因此b11738为上海10月20日窗口内首个新预发布。仓库接口显示项目全名为ggml-org/llama.cpp,拥有者为ggml-org,许可证为MIT,更新与推送时间对应北京时间10月20日01时18分至01时19分,确认仓库当日仍活跃且归属无变化。

关键变化

本次顶部变更为服务端滑动窗口注意力检查点失效逻辑修复,官方提交标题为server fix swa checkpoint invalidation logic,由tdakhran提交并关联PR 30666。变更文件为tools/server/server-context.cpp与服务端单元测试test_completion.py,共计约85行增删,其中增加83行、删除2行。核心做法是在计算提示缓存前缀前记录共享前缀长度n_prefix,并在清理检查点时除原有pos_max越界条件外,新增覆盖未共享提示 token即检查点覆盖 token数超过n_prefix时予以清除的失效条件。官方同时新增覆盖大于n_past失败、但大于n_prefix通过的边界用例,提交说明注明有Claude协助调试与用例编写。以上细节由官方提交与PR记录直接确认,未经独立测试验证。

适用对象与中国用户价值

受影响对象为自行构建或部署llama-server的本地推理与服务验证用户,特别是启用上下文缓存检查点且运行滑动窗口注意力模型的场景。在此前逻辑下,若新提示与缓存检查点仅部分重叠,服务端可能复用未实际共享的检查点,导致上下文状态不一致。对中国开发者而言,llama.cpp是常用的GGUF本地推理引擎,支持在消费级显卡、苹果芯片与Linux服务端离线运行,无需外发数据,适合内网与端侧部署。本次修复有助于多轮对话一致性与长时间服务稳定性,但不改变模型可用范围、区域开通、价格配额与接口条件,预发布状态不变。

兼容性与安装访问条件

仓库与许可由官方仓库接口核验为ggml-org维护、MIT许可,允许商用、修改与分发,需保留版权声明,本次无许可变更。兼容性方面,本次为服务端正确性修复,未声明新模型支持、基准数据、速度提升或接口破坏性变更,现有模型与调用脚本无需改动,不使用滑动窗口检查点的路径行为不变。安装与访问可拉取标签b11738重新编译,或从官方发布页按平台精确选择预编译资产,例如Ubuntu CUDA 12.8与13.4以及Windows CUDA等变体,下载后校验哈希。访问GitHub需公网条件,离线与内网环境需提前同步产物,企业分发建议通过内部镜像。

限制与下一步

限制为本次仍标记为预发布,稳定性待社区验证,修复仅作用于服务端滑动窗口检查点路径,CUDA、Metal、Vulkan与Hexagon等后端不在本次变更范围内。实际效果受模型结构、窗口配置、构建选项与并发负载影响,罕见缓存不一致难以通过单次运行证伪。安全方面,本次未声明安全修复与安全公告内容,不应理解为安全加固或性能承诺。建议生产升级前先备份现有构建,在测试环境验证目标滑动窗口模型的加载、多轮对话一致性与长时间服务表现,确认无回归后再全量升级。若后续出现补充说明或新的版本化发布,将以新的可核验事件另行处理,不追溯修改本条时间结论。