埃隆-马斯克(ElonMusk)告诉投资者,他的众多公司之一xAI希望建造一台超级计算机,为下一版的Grok提供动力。报道称,xAI可能会与甲骨文公司合作开发超级计算机,并在2025年底前准备就绪。它显然将使用大量英伟达(NVIDIA)的H100GPU,集群规模是目前最大集群的四倍。
这位亿万富翁今年早些时候表示,Grok2需要2万个英伟达H100GPU才能完成训练,而即将推出的Grok模型将需要超过10万个H100GPU。通过建造这台被称为"计算机千兆工厂"的超级计算机(以特斯拉千兆工厂命名),xAI或许能够开发出更先进的语言模型。
随着OpenAI的ChatGPT在人工智能领域占据主导地位,你很可能还没有尝试过或听说过Grok。它可以在x.com上使用,但需要用户付费订阅。与其他模式相比,Grok的一大优势是它可以直接访问X上的所有帖子,马斯克一直说X是新闻媒体的替代品。
马斯克曾经参与过OpenAI的工作,直到他与公司负责人山姆-阿尔特曼(SamAltman)在公司发展方向上产生分歧。与OpenAI对ChatGPT的细节守口如瓶不同,xAI最近开源了Grok-1的权重和架构。
如果xAI真的实施这些计划,那么NVIDIA将成为主要受益者,因为它对H100GPU的需求将会增加。此举对整个领域也有好处,因为它将迫使其他公司(如OpenAI和Google)进一步创新其模式,以保持领先地位。
不幸的是,所有这些额外的计算能力都需要以大量的某种能源供电,因此,希望马斯克能找到一种使用可再生能源的方法,并将用水量控制在最低水平。
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】