跳到正文
原文
vLLM Blog· Inferact and the vLLM Team·· 2 天前AI 评分62

DeepSeek-V4.1-Flash 在 vLLM 上实现 5 倍智能体吞吐

DeepSeek-V4.1-Flash on vLLM: 5x Agentic Throughput Since Day 0

AI 导读

Inferact 与 vLLM 社区在 DeepSeek-V4.1-Flash 发布后三周内完成优化,低并发下提速 1.9 倍,150 TPS 约束下吞吐提升 5.3 倍。

来源:vLLM Blog · vllm.ai