英伟达发布最强AI加速卡BlackwellGB200助力AI计算迈向新纪元

铋读 2024-03-19 10:10:35

3月19日,在GTC开发者大会上,英伟达公司宣布了一项引人注目的消息:他们将发布最强AI加速卡GB200,并计划于今年晚些时候发货。这一加速卡将采用全新的AI图形处理器架构Blackwell,标志着英伟达在AI计算领域的巨大进步。

英伟达首席执行官黄仁勋在GTC大会上表示:“Hopper固然已经非常出色了,但我们需要更强大的GPU。”根据他的介绍,Blackwell的AI性能可达20 petaflops,远远超过之前的H100,后者仅为4 petaflops。这一突破性的性能提升将使人工智能公司能够训练更大、更复杂的模型。

Blackwell GPU体积庞大,采用了台积电的4纳米(4NP)工艺蚀刻而成,整合了两个独立制造的裸晶(Die),共有2080亿个晶体管。而通过NVLink 5.0技术的应用,这些芯片能够像拉链一样捆绑在一起,进一步提升了性能。

GB200加速卡将包含两个B200 Blackwell GPU和一个基于Arm的Grace CPU组成,其推理大语言模型性能比H100提升了30倍,同时成本和能耗降至25分之一。对于训练一个1.8万亿个参数的模型而言,以前需要8000个Hopper GPU和15兆瓦的电力,而现在仅需2000个Blackwell GPU和4兆瓦的电力。

据铋读网了解,亚马逊、谷歌、微软和甲骨文等公司都已计划在其云服务产品中提供NVL72机架,这些机架将配备36个CPU和72个Blackwell GPU,为用户提供更强大的AI训练和推理性能。英伟达的这一系列新产品和解决方案将推动AI计算迈向新的高度,为行业带来更快、更强、更高效的计算能力。随着GB200的发布,我们可以期待在AI领域看到更多的创新和突破。

0 阅读:12

铋读

简介:以科技视野,洞达天下