快科技3月19日消息,在英伟达GTC 2024大会上,英伟达CEO黄仁勋在GTC宣布推出新一代GPU Blackwell。
第一款Blackwell芯片名为GB200,将于今年晚些时候上市。
据介绍,Blackwell GPU体积庞大,采用台积电的4纳米(4NP)工艺制程,将两块芯片整合到一起,使用10 TB/sec NVLink 5.0连接,共有2080亿个晶体管。
前一代GPUHopper”H100采用4nm工艺,集成晶体管800亿。
黄仁勋表示:Hopper很棒,但我们需要更大的GPU。Blackwell不是一个芯片,它是一个平台的名字。”
英伟达表示,基于Blackwell的处理器,如GB200,为人工智能公司提供了巨大的性能升级,其AI性能为每秒20千万亿次浮点运算,而H100为每秒4千万亿次浮点运算。
该系统可以部署一个27万亿参数的模型,而GPT-4使用了约1.76万亿个参数来训练系统。
GB200包含了两个B200 Blackwell GPU和一个基于Arm的Grace CPU组成,推理大语言模型性能比H100提升30倍,成本和能耗降至25分之一。
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】