Latent Space·· 4 小时前AI 评分73
DeepSeek 开源 DeepInfer:生产推理架构、性能与经济性分析
[AINews] DeepSeek DeepInfer: Open Source SOTA Inference running 155T toks/day/cluster making $22m/day at ~80% margin for a 81 day payback
AI 导读
DeepSeek 开源 V4.1 Flash 背后的生产推理框架 DeepInfer,披露单集群每日服务 155T tokens、最长 72 小时 Prompt 缓存及约 $38/加速器小时收入。
来源:Latent Space · latent.space