跳到正文
原文
vLLM Blog· vLLM Team·· 20 小时前精选AI 评分78

vLLM 首日支持 Muse Spark Open,816B MoE 模型上线

Day 0 support for Muse Spark Open on vLLM

AI 导读

vLLM 宣布与 Meta Superintelligence Labs 合作,在发布首日支持开源权重稀疏 MoE 模型 Muse Spark Open。该模型总参数 816B、每 token 激活 42B,支持 1M 上下文窗口,原生支持图像、视频与音频感知,Meta 发布了 BF16 和 NVFP4 版本,AMD 发布了 MXFP4 权重。

推荐理由

原文给出 Muse Spark Open 在 vLLM 上的部署命令、并行策略与 DSpark 加速配置,可据此评估 1M 上下文 MoE 模型的落地成本。

来源:vLLM Blog · vllm.ai