跳到正文
原文
vLLM Blog· vLLM Team and Inferact·· 2026-08-12精选AI 评分78

vLLM 宣布 Day-0 支持 Qwen3.8-2.4T-A95B

Day 0 Support for Qwen3.8-2.4T-A95B on vLLM

AI 导读

vLLM 宣布对 Qwen3.8-2.4T-A95B 提供 Day-0 支持,该模型沿用 Qwen 3.5 架构,无需改动即可在 vLLM 上运行。这是 Qwen 家族首个以开放权重形式发布的 Qwen-Max 级模型,为 2.4 万亿参数稀疏 MoE,含 512 个专家,92 层混合骨干中每 4 层做一次全注意力、其余 69 层为线性注意力。

推荐理由

vLLM 官方给出 Qwen3.8 的 Day-0 支持细节与量化权重,可据此评估 2.4T 稀疏 MoE 的部署门槛。

来源:vLLM Blog · vllm.ai