跳到正文
原文
vLLM Blog· vLLM Team and Inferact·· 2026-07-27精选AI 评分80

vLLM 发布 Kimi K3 的 day-0 高效支持

Kimi K3 Is Here: Efficient Day-0 Support on vLLM

AI 导读

vLLM 宣布对 Moonshot AI 的 Kimi K3 提供 day-0 支持,该模型为 2.8 万亿参数 MoE,每 token 激活 896 个专家中的 16 个,支持 1M token 上下文和原生视觉。

推荐理由

vLLM 给出 Kimi K3 的 day-0 部署配方与实测吞吐,可据此判断 2.8T 混合 MoE 的落地成本。

来源:vLLM Blog · vllm.ai