跳到正文
原文
Latent Space·· 2 小时前精选AI 评分85

DeepSeek 开源推理栈 DeepInfer,披露单集群 155T tokens/天与每卡时 38 美元收入

[AINews] DeepSeek DeepInfer: Open Source SOTA Inference running 155T toks/day/cluster making $22m/day at ~80% margin for a 81 day payback

AI 导读

DeepSeek 开源了支撑 V4.1 Flash 的生产推理引擎 DeepInfer,并发布配套的 deepseek-recipe 协议转换库,支持 NVIDIA SM100 与华为昇腾 950。

推荐理由

DeepSeek 开源生产推理栈 DeepInfer,并披露单集群 155T tokens/天与每卡时 38 美元收入,读者可据此理解其缓存与调度设计及开源边界。

来源:Latent Space · latent.space