产业观察
DeepSeek把核心商业秘密也开源了：每张卡每小时能赚38美元
📋总体概括
DeepSeek开源了大规模云服务推理框架DeepInfer，并公布DeepSeek V4.1 Flash的部署细节：用8卡机器做Prefill、64～128卡超节点做Decode，KVCache可保留72小时以上。框架兼容多厂商芯片，单一集群服务吞吐达155万亿Tokens/天，每卡每小时收入38美元（按谷价）。这意味着DeepSeek把核心商业秘密级的技术也免费开放给社区，进一步强化其开源策略，同时展示了大模型推理的商业化成本收益模型。
⚡关键信息
- ▸DeepSeek开源大规模云服务推理框架DeepInfer，服务于DeepSeek V4.1 Flash的部署实践
- ▸架构设计上采用常见8卡机器做Prefill，64～128卡超节点做Decode，围绕两阶段负载特征设计调度
- ▸KVCache可保留72小时以上，缓存命中时减少重复Prefill计算，降低推理成本
- ▸单一集群服务吞吐达155万亿Tokens/天，每卡每小时收入38美元（按谷价）
- ▸框架兼容多厂商计算芯片，但未公布集群数量与显卡总数，真实日收入无法估算
🔥犀利点评
每卡每小时38美元，DeepSeek等于把自己的『账本』摊开给全行业看——这不是炫技，是降维打击。当对手还在纠结API定价时，它直接公开推理系统的底层设计，逼着整个行业按它的框架来思考成本。多芯片兼容这步棋更狠：一旦国产卡能无缝跑DeepInfer，英伟达的议价权就被动了。真正的护城河从来不是模型权重，而是把模型跑便宜的系统能力。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 驱动之家 阅读全文 →