LiteLLM Blog·· 6 天前AI 评分33
LiteLLM AI Gateway 新增模型弃用管理功能
Model Deprecation Management
AI 导读
LiteLLM AI Gateway 的 UI 新增模型弃用告警,可在 Observability 的 Alerts 中查看提供商、弃用日期、近 30 天请求量及最后流量时间。系统会在提供商弃用日期前 30 天和 1 天发送邮件提醒,并给出推荐替代模型及迁移步骤。用户还可按 key 追踪迁移期间每日请求量,确认旧模型流量归零后手动标记告警已解决。
来源:LiteLLM Blog · docs.litellm.ai