人工智能

AI训练一次 把我家这辈子的电都用完了…

字号+作者: 来源:差评 2023-11-04 09:42 评论(创建话题) 收藏成功收藏本文

之前世超写过一篇AI有多耗水的稿子,说是Google数据中心去年一年就花掉了一个半西湖的水量。除了耗水,可能很多人还忽略了一点,那就是AI在耗电这块也是一绝'...

之前世超写过一篇AI有多耗水的稿子,说是Google数据中心去年一年就花掉了一个半西湖的水量。除了耗水,可能很多人还忽略了一点,那就是AI在耗电这块也是一绝。前两天阿里刚结束的云栖大会上,中国工程院院士、阿里云创始人王坚就打了这么一个比方——过去一百年里,全球电动机消耗掉的电量就占到了总发电量的一半,而现在的大模型就相当于新时代的电机。CWY品论天涯网


CWY品论天涯网

而这个新时代的“电机”,也是相当耗电。CWY品论天涯网

现在,为了喂饱它这只电老虎,有些公司甚至准备搬出了“核动力”CWY品论天涯网


CWY品论天涯网

其实在业内,关于AI和能源之间的话题也是没有断过。CWY品论天涯网

Huggingface的科学家就专门测试过各个大模型的耗电量和碳排放,世超翻了翻这篇论文,也是直观地感受到了大模型耗电的疯狂。CWY品论天涯网


CWY品论天涯网

先是Huggingface自家的BLOOM大模型,有1760亿参数,光是前期训练它,就得花掉43.3万度电,我换算了下,相当于国内117个家庭一年用掉的电量。CWY品论天涯网

和它参数量相当的GPT-3,耗电量就更不受控制,同样是前期训练,就要用掉128.7万度电,足足是前者的三倍。CWY品论天涯网

甚至有人做过这样一个类比,OpenAI每训练一次,就相当于3000辆特斯拉同时跑32公里……CWY品论天涯网


CWY品论天涯网

这还只是AI前期训练用的电,在后期使用过程中累积的耗电量才是大头。CWY品论天涯网

一般来说,训练就是不断调整参数、重复训练,最后得到一个使用体验最好的模型,整个过程是有限度的。CWY品论天涯网

后期的推理过程就不一样了,比如我们用ChatGPT,每问一次问题都相当于是一次推理请求。CWY品论天涯网

现在ChatGPT的月活用户早已经破亿,它每天推理的频次的飙升可想而知。CWY品论天涯网

更具体一点,拿自动驾驶来说,前期训练花费的能耗成本就只有两三成,剩下的七八成都是后期的推理消耗的。CWY品论天涯网


CWY品论天涯网

《晚点LatePost》之前也拿ChatGPT做了这么一个测算,按日均最高访问量2.7亿次来计算,假设每个人每次访问会问五个问题,一整个月下来光是推理消耗的电量就是1872万度。CWY品论天涯网

总的来讲,AI这几年来消耗的电力正在以指数级别增长,然而现在全球发电已经差不多已经趋于平缓。CWY品论天涯网

照这个态势发展下去,估计再过几十年,光是AI的耗电量,就足以导致全球用电荒了……CWY品论天涯网

来自AMD,红色表示AI能耗,绿色表示现有能源CWY品论天涯网


CWY品论天涯网

而之所以这么耗电,一方面和近几年来AI圈子内部搞起的军备竞赛不无关系。CWY品论天涯网

国外在OpenAI之后,Google、Meta自家大模型的研发迭代也没停过。CWY品论天涯网

国内卷得就更厉害,百度的文心一言、阿里的通义千问、腾讯的混元等等等等,参数一个赛一个高,这还只是大厂们的赛道,一些大模型初创企业更是海了去了。CWY品论天涯网


CWY品论天涯网

另一方面,AI用掉这么多电,和它背后数据中心不无关系。CWY品论天涯网

在数据中心,用电最多的地方就是AI服务器,因为要有大规模的计算,普通的服务器根本就不够用,还得用专属的AI服务器。CWY品论天涯网

然鹅AI服务器,光是功率就比普通服务器高出了六七倍,普通服务器一般只需要两个800W~1200W的电源,AI服务器,则要4颗1800W的高功率电源。CWY品论天涯网

emmm这不耗电都说不过去……CWY品论天涯网

AI的耗电,当然卷大模型的厂商比我们清楚得多,毕竟在他们那里可是真金白银的电费哗哗往外流……CWY品论天涯网

所以在解决AI能耗的问题上,业内也是使出了浑身解数。CWY品论天涯网

第一个办法是想办法提高AI芯片性能,性能上去了,耗电自然而然也就下去了。CWY品论天涯网

另外一个办法就简单粗暴了,既然耗电多导致电费高,那找个更便宜的能源不就行了。CWY品论天涯网

就比如国内目前就在搞“东数西算”的工程,在西部清洁能源丰富的地区建立数据中心,用来处理东部的数据。CWY品论天涯网

并且东部地区数据中心密集,工商业的平均电价大概在0.676元/度,而西部地区平均电价在0.541元/度,钱不就这么省下来了么。CWY品论天涯网


CWY品论天涯网

有些公司则又看准了核能赛道。CWY品论天涯网

像OpenAI和微软都先后投资了核能发电,不过不是传统的核裂变发电方式,而是还在实验室阶段的核聚变CWY品论天涯网

早在2015年,OpenAICEO奥特曼就对核聚变发电感兴趣了,向一家核聚变初创企业Helion投资了950万美金,2021年,又给它豪掷了3.75亿美元。CWY品论天涯网


CWY品论天涯网

紧接着在今年5月份,在核聚变发电站还没着落的时候,微软就和Helion签订了购电协议,说要在2030年前实现负碳目标CWY品论天涯网

世超倒真有点好奇,这个Helion到底有什么魔力,在八字还没一撇的时候,让OpenAI和微软先后都在它身上下这么大的注。CWY品论天涯网

不过这事吧,从它给微软的的承诺中就能窥探出一二。Helion在那份购电协议中表示,2028年前上线的核聚变装置,在一年内会把发电功率提升到50兆瓦以上。CWY品论天涯网

什么概念?相当于撑起40000户家庭的供电。CWY品论天涯网

更重要的是,买核聚变发出来的电,还贼拉便宜,折合成人民币相当于7分钱一度电,这诱惑谁挡得住啊。CWY品论天涯网

微软也没把所有鸡蛋放在一个篮子里,在下注核聚变发电的同时,他还看好了近几年发展起来的小型核反应堆(SMR)。CWY品论天涯网

不久前,微软发了个招聘通知,说要找个“核技术首席项目经理”,来管SMR这块的工作。CWY品论天涯网


CWY品论天涯网

和传统核电的大型反应堆比,理论上SMR这玩意儿体积更小,甚至可以在工厂里批量生产。CWY品论天涯网

发电功率也是传统反应堆的三倍,并且SMR也不用担心损坏时释放放射性元素,因为它能在第一时间自动关闭系统。CWY品论天涯网

同时SMR也更省钱,平均每1000度电下来就能省将近100美元……CWY品论天涯网

当然,这些东西目前还是八字没那一撇,AI耗电猛的现状,短时间内也很难会得到改变。CWY品论天涯网

各种核聚变项目,世超也不好说它们到底能不能成。CWY品论天涯网

但AI的发展,说不定会给核能来一记大助攻。CWY品论天涯网

如果这个世界是一局电子游戏的话,说不定可控核聚变的科技树,正好就在AI之后呢。CWY品论天涯网

本网除标明“PLTYW原创”的文章外,其它文章均为转载或者爬虫(PBot)抓取; 本文只代表作者个人观点,不代表本站观点,仅供大家学习参考。本网站属非谋利性质,旨在传播马克思主义和共产主义历史文献和参考资料。凡刊登的著作文献侵犯了作者、译者或版权持有人权益的,可来信联系本站删除。 本站邮箱[email protected]