vLLM Blog· vLLM Team and Inferact·· 2026-07-27精选AI 评分80
vLLM 发布 Kimi K3 的 day-0 高效支持
Kimi K3 Is Here: Efficient Day-0 Support on vLLM
AI 导读
vLLM 宣布对 Moonshot AI 的 Kimi K3 提供 day-0 支持,该模型为 2.8 万亿参数 MoE,每 token 激活 896 个专家中的 16 个,支持 1M token 上下文和原生视觉。
推荐理由
vLLM 给出 Kimi K3 的 day-0 部署配方与实测吞吐,可据此判断 2.8T 混合 MoE 的落地成本。
来源:vLLM Blog · vllm.ai