核心变化

ggml-org 在上海时间2026年10月20日06时54分通过 GitHub 发布 llama.cpp 预发布 b11744,对比区间为 b11742 至 b11744,发布状态仍为预发布。本次合入 2 笔提交,其中主提交为 7adf160,对应拉取请求第28277号,主题为服务端新增实验性 --connect。核心内容为允许 llama-server 经 P2P 在局域网外被访问,明确标注为实验性,新增 props.connect_code 相关逻辑。当仅使用 --connect-code 而未启用隧道时不再对外展示可用远程码,并在启动时给出一次性说明;同时修正子进程日志线程的释放说明,恢复 --reasoning-preserve 默认值,补充 tools/connect 构建配置。拨号侧按实际绑定端口发起,兼容 --port 0 与云端端口覆盖,按 --host 选择可达地址并处理通配符与 IPv6 括号形式,仅绑定 unix 套接字时拒绝启用。另一笔提交为 ab7ed0d,修复 WebUI 附件长行预览被裁剪问题,将代码块宽度改为自适应并保留最小占满,解决超长单行无滚动条问题。

适用对象与兼容条件

本次变更面向自托管 llama-server 的服务端用户,特别是有从局域网外访问推理服务需求的场景,例如远程调试、异地设备调用或临时对外演示。仓库归属仍为 ggml-org 名下的 llama.cpp,获取方式为访问 GitHub 发布页或拉取对应标签源码自行构建。发布页同步提供 Windows、macOS、Linux、Android 与 iOS 构建产物,覆盖 CPU、CUDA、Vulkan、ROCm、OpenVINO 与 SYCL 等后端变体。站内同仓库历史条目均记录许可证为 MIT,本次对比未涉及许可证文件与维护状态变更。中国用户可直接访问公开仓库与发布页,但下载与构建速度受本地网络条件影响。已有 b11742 的用户可将其视为常规增量预发布,不涉及通用模型权重与分词路径变化。

安装访问与升级建议

用户可通过仓库发布页的 b11744 标签下载源码包或已构建产物,也可通过 git 拉取标签后按官方文档在本地编译。需要远程访问的用户可在测试环境先以 --connect 启动服务端,确认隧道建立、远程码生成与 /props 返回是否正常,再验证 --port、--host 与反向代理配置是否符合预期。由于本次为预发布且 --connect 明确为实验性,不建议直接覆盖线上服务,应先备份当前可用的 b11742 版本与配置文件,保留回退路径。仅绑定 unix 套接字的部署默认无法启用该功能,相关用户无需调整。如仅使用本地推理或 WebUI 附件预览且不涉及远程访问,本次变更与日常使用无直接关系,可按原节奏等待后续版本。

限制、安全与下一步

本次为服务端功能新增与界面修复,未声明安全修复,未变更许可证与维护状态,也未提供性能对比数据,实际远程连通效果会因网络、NAT 与防火墙条件而异,不作保证。将服务经 P2P 暴露到局域网外会扩大访问面,用户应自行评估身份校验、访问令牌与防火墙策略,不宜长期无保护对外开放。--connect-code 在无隧道时不再展示的调整可能影响依赖 /props 解析远程码的脚本,升级后如遇展示为空应先检查是否已正确启用 --connect。附件预览修复仅涉及长行显示,不影响推理结果。下一步可继续跟踪该仓库 b11744 之后版本,确认实验性连接能力在更多机型与网络环境下的稳定性后再决定是否批量升级。