BerriAI维护的开源AI网关LiteLLM于上海时间2026年9月20日15时10分发布预发布v1.103.0-rc.1，接口显示published_at为2026-09-20T07:10:47Z，对应北京时间2026年9月20日15时10分，落在当日00:00至23:59窗口内。该版本标记为prerelease，由维护方通过GitHub Release发布，仓库归属BerriAI组织，项目定位为统一调用100多种大模型的AI网关，支持Python SDK与代理服务两种形态。本次发布说明未声明许可证变更，根目录LICENSE对enterprise目录之外内容继续适用MIT许可，中国开发者可通过PyPI对应版本与Docker镜像标签验证。
关键变化
- 路由并发占满返回429：部署max_parallel_requests槽位占满时直接拒绝，便于过载保护；代理预算管理增强：动态创建客户支持按Key默认预算，团队成员支持临时额度提升与成员无预算时支出跟踪；语音透传扩展：新增Amazon Transcribe与Azure AI Speech透传路由及按次计费；MCP会话管控：展示按客户端与用户的实时网关会话，管理员可强制关闭并吊销 stored 凭据；启动性能优化：延迟加载fastapi与tiktoken BPE，减少import litellm开销；代理安全加固：提示注入检测移出事件循环，管理后台限制重复登录失败尝试
适用对象与价值
面向已用LiteLLM统一接入OpenAI、Anthropic、Gemini、Bedrock、Azure等多家模型的团队，特别是自建AI网关、需要虚拟密钥、支出跟踪、负载均衡与防护栏的平台方。路由429限流有助于在并发打满时快速失败而不是排队拖垮网关，便于调用方重试或降级。按Key默认预算与临时额度提升面向多租户与团队制场景，便于为动态创建的客户预设上限并在活动期临时放宽。语音透传与MCP会话管控面向已接语音与工具调用的网关，便于把转写、语音合成与工具会话统一收口到网关做鉴权与计费。启动优化面向冷启动敏感的Serverless与CLI场景。
兼容性与安装条件
本次为rc预发布，不应直接用于生产全量。发布说明未声明破坏性变更，但包含路由、代理配置与Rust侧重构，使用相关特性的用户需核对变更再升级。Python用户可通过PyPI安装对应版本验证，包名为litellm，版本字符串为1.103.0rc1。Docker用户可拉取ghcr.io/berriai/litellm对应标签v1.103.0-rc.1，并按发布页说明使用cosign校验镜像签名。使用需要配置各模型提供方的密钥与网关虚拟密钥，实际模型可用范围、限流与计费以后端开通与账户权限为准。配置文件优先于数据库的调整已合入，依赖数据库覆盖配置的部署需先核对生效顺序。建议先在测试环境验证路由限流、预算、语音透传与MCP会话链路。
限制与注意事项
发布说明未将本次列为安全修复版本，不应将其理解为安全加固结论，其中提示注入检测与登录限制属于常规加固，需结合自身威胁模型评估。许可证方面，根LICENSE明确enterprise目录另有企业许可，核心网关之外目录的二次使用需自行核对。新增的429限流、默认预算、语音透传与MCP强制关闭均需网关配置对应开启，默认行为以配置文件与文档为准。价格同步涉及443个模型新增与多模型废弃，依赖旧价格与用量判断的代码需回归账单核对。流式、计费与路由校验行为变化可能影响异常分支，升级后需回归重试与可观测性。本文不对安全性、长期维护与后续版本节奏作超出发布说明的保证，细节以仓库发布页与代码为准。
下一步
已使用LiteLLM的项目可在测试环境升级至v1.103.0-rc.1，重点验证max_parallel_requests占满时的429表现、动态客户默认预算与团队临时额度、Amazon Transcribe与Azure语音链路的鉴权计费，以及MCP实时会话展示与强制关闭，再决定是否跟进正式版。未接入的团队可按仓库说明先跑通代理快速开始与虚拟密钥，再评估网关形态。更多细节见Release v1.103.0-rc.1说明与PyPI上litellm对应版本页面。