vLLM Blog· vLLM Team·· 20 小时前精选AI 评分78
vLLM 首日支持 Muse Spark Open,816B MoE 模型上线
Day 0 support for Muse Spark Open on vLLM
AI 导读
vLLM 宣布与 Meta Superintelligence Labs 合作,在发布首日支持开源权重稀疏 MoE 模型 Muse Spark Open。该模型总参数 816B、每 token 激活 42B,支持 1M 上下文窗口,原生支持图像、视频与音频感知,Meta 发布了 BF16 和 NVFP4 版本,AMD 发布了 MXFP4 权重。
推荐理由
原文给出 Muse Spark Open 在 vLLM 上的部署命令、并行策略与 DSpark 加速配置,可据此评估 1M 上下文 MoE 模型的落地成本。
来源:vLLM Blog · vllm.ai