vLLM Blog· Mistral and the vLLM Team·· 17 小时前AI 评分75
vLLM 在发布首日支持 Mistral Large 4
Day 0 support for Mistral Large 4 on vLLM
AI 导读
vLLM 宣布在 Mistral Large 4 发布首日提供支持，该模型为 1 万亿参数 MoE 原生多模态模型，每 token 激活 49B 参数，采用 MLA 加 DSA 稀疏注意力并内置 DSpark 投机解码草稿模型。
来源：vLLM Blog · vllm.ai