众力资讯网

【#DeepSeek宣布开源内部推理框架##DeepSeek披露每卡每小时收入38美元#】10月20日,DeepSeek又放大招了,这次直接开源了内部大规模云服务的推理框架DeepInfer,这是支撑DeepSeek大模型高吞吐、低延迟线上推理服务的核心技术,这一开源对AI行业意义重大。 比开源更受关注的是,在同步发布的技术报告中 ​

【DeepSeek宣布开源内部推理框架DeepSeek披露每卡每小时收入38美元】10月20日,DeepSeek又放大招了,这次直接开源了内部大规模云服务的推理框架DeepInfer,这是支撑DeepSeek大模型高吞吐、低延迟线上推理服务的核心技术,这一开源对AI行业意义重大。

比开源更受关注的是,在同步发布的技术报告中,DeepSeek公布了集群服务的吞吐和关键收入数据。DeepSeek提到,基于这一推理框架,团队已实现 DeepSeek V4.1 Flash 的高吞吐、低延迟大规模推理服务。目前单一集群的服务吞吐是155万亿Tokens/天,整体收入是每卡每小时38美元(按谷价)。(第一财经)