Cloudflare Blog · AI Gateway· Ming Lu·· 8 天前精选AI 评分71
Cloudflare 在 AI Gateway 中公测 Auto Router，自动按任务难度选模型
Cut your AI spend with AI Gateway's Auto Router
AI 导读
Cloudflare 通过 AI Gateway 发布 Auto Router 公测版，把模型设为 cloudflare/auto 后，网关会自动把每个请求路由到能力足够完成任务的模型，无需用户手动选模型。
推荐理由
Cloudflare 公开了 Auto Router 的路由机制与内部评测数据，可据此判断模型路由能省下多少成本。
来源：Cloudflare Blog · AI Gateway · blog.cloudflare.com