核心变化一览

PyTorch 2.14.0 于 Asia/Shanghai 2026-09-03 01:40（UTC 2026-09-02 17:40:10Z）通过官方仓库 https://github.com/pytorch/pytorch 正式发布，由 PyTorch 团队（Meta 主导）维护，采用 BSD 3-Clause 许可。该版本是 2.x 系列向统一硬件无关平台演进的关键一步，聚焦 Inductor 编译、分布式通信与 Apple Silicon 三大主线的生产化能力，并包含多项需主动迁移的不兼容变更。

主要能力与升级

  • 1. NVGEMM 后端：CuTeDSL 生成的 CUTLASS 内核进入 Inductor，支持 epilogue 融合、缩放与 NVFP4 GEMM，并与 Triton/ATen 共同自动调优，提升矩阵运算效率。 2. 控制流扩展：torch.switch 替代多层嵌套的 torch.cond，实现多路分支；torch.while_loop 可被 CUDA Graph 捕获，便于动态逻辑的高效编译。 3. 声明式动态形状：通过 @dynamic_spec 统一声明可变维度，在 torch.compile、torch.export 与 make_fx 间共享，简化动态形状工作流。 4. 分布式重构：基于 torchcomms 的 nccl2 后端在树内实现完整集合通信与非阻塞通信器，容错提升为 c10d 一等概念，支持原地进程组重配置、单侧 RMA 窗口与全后端 Flight Recorder。 5. Apple Silicon：提供 Jacobi 核 SVD、eigh、QR、Cholesky 等原生实现及五段式归约重写，MPSGraph 进一步向 Metal 迁移，F.linear 单 token 解码等路径显著加速。 6. 平台扩展：官方产出 ROCm 7.14（TheRock pip SDK）、Intel XPU 原生图捕获及面向 NVIDIA Rubin（sm_107）的 Inductor 目标；同步支持 Python 3.15 与 free-threaded 3.15t。

兼容性与破坏性变化

本次为包含破坏性变更的版本更新：torch.nn.LinearCrossEntropyOptions 的 acc_policy="balanced" 已移除，需改用 "compact"；torch.cholesky / Tensor.cholesky 与 torch.qr / Tensor.qr 已移除，请迁移至 torch.linalg.cholesky / torch.linalg.qr；torch.profiler.profile 与 torch.autograd.profiler.profile 的 use_cuda 参数已移除，需改用 activities 或 use_device="cuda"；自定义 ProcessGroup 的 new_group 需接受 backend 关键字；NCCL 对称内存池的后期段不再自动升级为对称窗口，需集体解注册后重注册。setup.py 已转为弃用 shim，通过 pip 或 python -m build 构建为推荐方式，将在 2.16 停止工作。

平台、安装与访问条件

官方通过 PyPI 与 download.pytorch.org 提供预编译轮子：Linux/Windows/macOS 全平台覆盖，CUDA 12.6+ 与 13.0、ROCm 7.14、XPU 及 CPU 构建；Python 3.15/3.15t 轮子仅在 download.pytorch.org 分发，需使用 --index-url https://download.pytorch.org/whl/cu130 等指定。Inductor 的 simple_overlap 计算与通信重叠现已默认开启，分布式训练无需额外配置即可获益。中国用户可按官方 Getting Started 指引选择对应 CUDA/ROCm 版本，注意企业网络对 GitHub 与下载站点的访问策略。

适用对象、限制与下一步

适用于从事大模型训练、推理与编译优化的中国开发者与企业。NV GEMM 与通信重叠在新一代 GPU 与多机场景收益最明显；Apple Silicon 的线性代数与 Metal 迁移对 Mac 推理与小规模训练更友好；complex 张量编译仍为实验性，仅覆盖部分算子。已知限制：ROCm 7.2 轮子在无 GPU 环境下 torch.compile CPU 路径可能报向量化 ISA 检测失败，需在目标镜像中验证。建议先在测试环境对照 Release Notes 逐项验证破坏性变更，再灰度升级，并关注 9 月 17 日官方 Live Q&A 与 PyTorch Conference 相关议题。