北京时间 10 月 20 日 06 时 54 分,ggml-org 在 GitHub 发布 llama.cpp 预发布 b11744。仓库发布接口记录其发布时间为 2026-10-19T22:54:49Z,对应北京时间 10 月 20 日,对比区间为 b11742 至 b11744。该版本对应的版本提交为 7adf160c411e7a55d9ee75b5d41deb497969dac4,提交时间为 2026-10-19T22:23:14Z。以上版本号、发布时间与提交对应关系由官方仓库发布与提交记录直接确认;影响判断为编辑基于官方描述的解释,未经独立测试验证。
已核实变化
官方发布说明标题为 server: add --connect, allow p2p access to server outside LAN,关联 PR #28277,由 ngxson 提交并已合并关闭。PR 说明写明新增 llama-server --connect 模式,允许 Web UI 与 llama-server 之间建立点对点连接,并关联 Web UI 侧 PR #24577。该方案需拉取 ggml-org/llama-connect 的预构建二进制,因该组件基于 Rust 静态链接,以控制长期维护成本与可移植性。协议层面官方描述为经 WebRTC 实现点对点连接、按 WebRTC 要求端到端加密,仅使用 WebTorrent Tracker 做信令。该部分为对官方发布页与 PR 描述的转述,不是独立复现结论。
从官方提交信息看,本次还包含多项服务端适配细节:一是仅在 --connect 开启且隧道实际服务时才在 /props 中展示远程访问码,避免此前仅设 --connect-code 却无隧道服务时 Web UI 显示无效访问码;二是按绑定端口与可达主机拨号 llama-connect,兼容 --port 0 与云端覆盖,通配主机映射为回环地址并对 IPv6 加括号,仅绑定 Unix 套接字时拒绝启用;三是恢复 --reasoning-preserve 默认值的生成文档,并修复 Windows 构建与工具链 CMake 配置。PR 页面同时披露约九成代码为 AI 生成,相关说明来自提交者自述,尚未经第三方独立验证。
影响与适用范围
受影响对象为自托管 llama-server 的运维与开发者,特别是需要在局域网外通过 Web UI 远程管理节点的本地推理用户。在此之前,跨网段访问通常依赖自建隧道或内网穿透;更新后官方在服务端内提供实验性 --connect 通道,连接码可经 /props 获取并用于远端 Web UI 接入。中国开发者若验证该能力,可在官方仓库核对 b11744 发布页与提交 7adf160 后,先在测试环境验证目标平台的服务端启动参数、端口主机配置、远端连接建立与断开清理,其他模型加载与推理行为不变。
限制与下一步
本次为服务端远程访问能力的实验性预发布,官方明确标注为 experimental,不应理解为稳定功能、性能、安全或可用性承诺。PR 待办事项显示 macOS x64 构建暂缺,前端侧实现需后续 PR 跟进,实际可用平台以发布页附件清单为准。生产升级建议先备份再验证,重点检查隧道进程退出后的资源回收与日志行为。若后续出现补充说明或新的版本化发布,将以新的可核验事件另行处理,不追溯修改本条时间结论。