人工智能

ChatGPT需要1万张NVIDIA A100显卡 国内仅有6家公司做到

ChatGPT这样的生成式AI不仅需要千亿级的大模型,同时还需要有庞大的算力基础,训练AI现在主要依赖NVIDIA的AI加速卡,达到ChatGPT这种级别的至少需要1万张A10'...

ChatGPT这样的生成式AI不仅需要千亿级的大模型,同时还需要有庞大的算力基础,训练AI现在主要依赖NVIDIA的AI加速卡,达到ChatGPT这种级别的至少需要1万张A100加速卡。高性能加速显卡现在是稀缺资源,国内购买NVIDIA高端显卡更是不容易,来自商汤科技的一份纪要显示,能达到ChatGPT这种算力要求的公司在国内凤毛麟角,只有6家。NV7品论天涯网

他们是商汤、百度、腾讯、字节、阿里和幻方,其中百度、腾讯、字节、阿里这样的互联网巨头能买到且买得起1万张A100显卡不让人意外。NV7品论天涯网

百度3月底已经发布了自己对标ChatGPT的产品文心一言,接下来其他公司也会陆续发布自己的AI产品。NV7品论天涯网

NVIDIAA100核心及计算卡是2020年5月份发布的,也是安培架构的第一款产品,7nm工艺制造,542亿个晶体管,826平方毫米面积,8196个流处理器,实际开启6912个,搭配5120-bit40GBHBM2显存,PCIe版本功耗250W。NV7品论天涯网

NV7品论天涯网

A100的单精度浮点性能高达19.5TFlops,FP64性能9.7TFLOPS,INT8性能624TOPS,TDP400W,显存的带宽也是恐怖的1.6TB/s,后期还发布过80GBHBM2e的版本,频率从2.4Gbps提升到3.2Gbps,使得带宽从1.6TB/s提升到2TB/s。NV7品论天涯网

NV7品论天涯网

本网除标明“PLTYW原创”的文章外,其它文章均为转载或者爬虫(PBot)抓取; 本文只代表作者个人观点,不代表本站观点,仅供大家学习参考。本网站属非谋利性质,旨在传播马克思主义和共产主义历史文献和参考资料。凡刊登的著作文献侵犯了作者、译者或版权持有人权益的,可来信联系本站删除。 本站邮箱[email protected]