BerriAI维护的开源AI网关LiteLLM于上海时间2026年9月23日11时24分发布预发布v1.104.0-dev.1,接口显示published_at为2026-09-23T03:24:12Z,对应北京时间2026年9月23日11时24分,落在当日00:00至23:59窗口内。该版本标记为prerelease,由维护方通过GitHub Release发布,仓库归属BerriAI组织,项目定位为统一调用100多种大模型的AI网关,支持Python SDK与代理服务两种形态。本次发布说明未声明许可证变更,根目录LICENSE对enterprise目录之外内容继续适用MIT许可,中国开发者可通过对应版本的GitHub发布页与Docker镜像标签验证。
关键变化
- 认证口令策略加固:新增泄露口令检测、自助改密与强制重置,收口明文口令泄露路径;代理配置行为明确:配置文件优先于数据库生效,保存配置时仅持久化调用方变更键;性能优化:代理/model/info列表改用orjson一次序列化,延迟加载fastapi与tiktoken分词,降低导入开销;代理运行修复:提示注入启发式移出事件循环,删除用户团队组织密钥时清理JWT映射缓存;计费口径修正:补齐Mistral聊天模型缓存读取定价,修正Bedrock Titan嵌入批计费与缓存读取无费率时的按输入计费
适用对象与价值
面向已用LiteLLM自建统一网关的团队,特别是需要统一接入OpenAI、Anthropic、Gemini、Bedrock、Azure等多家模型,并使用虚拟密钥、支出跟踪、负载均衡与防护栏的平台方。口令策略加固面向开放管理后台与多成员协作的部署,便于拦截已泄露口令、允许用户自助改密并对风险或管理员设置的口令强制重置。配置文件优先与仅保存变更键面向同时使用文件与数据库配置的运维,便于明确生效顺序并减少误覆盖。/model/info序列化与延迟加载面向模型列表庞大或冷启动敏感的代理与Serverless场景。JWT清理与提示注入移出事件循环面向高并发代理,有助于减少事件循环阻塞与权限残留。
兼容性与安装条件
本次为dev预发布,不应直接用于生产全量。发布说明未声明破坏性变更,但包含认证、代理配置、Rust侧回调隔离与界面清理等多项重构,使用相关特性的用户需核对变更再升级。Docker用户可拉取ghcr.io/berriai/litellm对应标签v1.104.0-dev.1,并按发布页说明使用cosign校验镜像签名,校验键与提交哈希见发布页验证章节。Python侧涉及导入路径与包分层调整,已有网关需回归导入与回调链路。使用需要配置各模型提供方的密钥与网关虚拟密钥,实际模型可用范围、限流与计费以后端开通与账户权限为准。依赖数据库覆盖文件配置的部署在升级后需重点核对配置生效顺序。建议先在测试环境验证登录改密、配置保存、模型列表与计费链路。
限制与注意事项
发布说明未将本次列为安全修复版本,不应将其理解为安全结论,其中口令检测与提示注入调整属于常规加固,需结合自身威胁模型评估。许可证方面,根LICENSE明确enterprise目录另有企业许可,核心网关之外目录的二次使用需自行核对。路由429限流、默认预算、语音透传与MCP会话等能力在该开发线延续,但具体是否默认开启以配置文件与文档为准。价格同步涉及大量模型新增与废弃,依赖旧价格与用量判断的代码需回归账单核对。开发预发布后续可能继续调整接口与行为,生产升级应等待正式版并回归重试与可观测性。本文不对安全性、长期维护与后续版本节奏作超出发布说明的保证,细节以仓库发布页与代码为准。
下一步
已使用LiteLLM的项目可在测试环境升级至v1.104.0-dev.1,重点验证泄露口令拦截、自助改密与强制重置流程,配置文件与数据库并存时的生效顺序,/model/info响应与冷启动表现,以及JWT删除后的权限清理与计费对账,再决定是否跟进后续正式版。未接入的团队可按仓库说明先跑通代理快速开始与虚拟密钥,再评估网关形态。更多细节见Release v1.104.0-dev.1说明。