Latent Space· Latent Space·· 15 天前AI 评分75
Latent Space AINews：DeepSeek 开源 DeepInfer 推理框架并披露 155T tokens/日集群经济数据
[AINews] DeepSeek DeepInfer: Open Source SOTA Inference running 155T toks/day/cluster making $22m/day at ~80% margin for a 81 day payback
AI 导读
Latent Space AINews 期内核心事件是 DeepSeek 开源生产推理框架 DeepInfer，支持 NVIDIA SM100 与华为昇腾 950，官方称单集群日服务 155T tokens、96% 输入缓存命中、离峰每卡时收入 $38；KV cache 管理、PD 分离和负载均衡未包含在开源范围内。
来源：Latent Space · latent.space