北京时间 10 月 20 日 00 时 59 分,ggml-org 在 GitHub 发布 llama.cpp 预发布 b11738。仓库发布接口记录其发布时间为 2026-10-19T16:59:59Z,对应北京时间 10 月 20 日,对比区间为 b11734 至 b11738。该版本顶部变更为服务端滑动窗口注意力检查点失效逻辑修复,提交为 f174553e1621c6a22a64e7bfcbb58d3a5c49e6fb。以上版本号、发布时间与提交对应关系由官方仓库发布与提交记录直接确认;影响判断为编辑基于官方描述的解释,未经独立测试验证。

已核实变化

官方提交标题为 server : fix swa checkpoint invalidation logic,由 tdakhran 提交,关联 PR #30666。变更文件为 tools/server/server-context.cpp 与服务端单元测试 test_completion.py,共约 85 行增删。核心逻辑为在计算提示缓存前缀前记录共享前缀长度 n_prefix,并在清理检查点时除原有 pos_max 越界条件外,新增覆盖未共享提示 token 的失效条件,即当检查点覆盖 token 数超过 n_prefix 时予以清除。官方同时新增用例覆盖大于 n_past 失败、但大于 n_prefix 通过的边界,提交信息注明有 Claude 协助。PR 页面显示该分支已于 10 月 19 日删除并合入,发布构建随后生成。

影响与适用范围

受影响对象为使用 llama-server 承载滑动窗口模型的自托管用户。在此前逻辑下,若新提示与缓存检查点仅部分重叠,服务端可能复用未实际共享的检查点,导致上下文状态不一致;更新后未共享范围的检查点会被及时清除,沿正确前缀重建,后续解码不再依赖错误缓存。其他不涉及 SWA 检查点的模型与非服务端路径行为不变,CUDA、Metal、Vulkan 与 Hexagon 等后端不在本次变更范围内。中国开发者若在本地验证 llama.cpp,可在官方仓库核对 b11738 发布页与提交 f174553 后,先在测试环境验证目标 SWA 模型的加载、多轮对话一致性与长时间服务稳定性。

限制与下一步

本次仅为服务端正确性修复的预发布,未声明新模型支持、基准数据、速度提升或兼容性变更,不应理解为性能或成本承诺。实际效果仍受模型结构、窗口配置、构建选项与并发负载影响,罕见缓存不一致本身难以通过单次运行证伪,生产升级建议先备份再验证。若后续出现补充说明或新的版本化发布,将以新的可核验事件另行处理,不追溯修改本条时间结论。