近年AI的繁荣,让拥有包括HBM在内的韩国存储公司受益匪浅,尤其是领先的龙头SK海力士,更是挣到盘满钵满。韩国也因此成为了AI市场的赢家。但其实除了存储以外,韩国在AI芯片市场,还有很多布局。某种程度上说,我们低估了这个东亚国家的AI实力。
韩国总统尹锡烈在今年4月表示,到2027年,韩国将在人工智能领域投资9.4万亿韩元(69.4亿美元),以保持在尖端半导体芯片领域全球领先地位的努力之一。此外,韩国的K-Cloud项目也在大力补贴AI数据中心专用于处理机器学习算法的NPU芯片的开发。韩国总统设定的目标是,到2030年,韩国要成为包括芯片在内的人工智能技术领域前三大国家之一,并在全球系统半导体市场占据10%以上的份额。
三星和SK海力士撑起了韩国快速发展AI的两架马车。随着AI模型的不断复杂化,对内存带宽的需求将持续增长,HBM作为高带宽内存的代表,将在AI芯片市场占据重要地位。
三星
作为全球最大的存储芯片制造商,三星电子在AI芯片领域一直没怎么沾到很大的光。胜在三星的盘面比较大,有存储、代工和芯片各项业务。
近日,三星在美国三星代工论坛(SFF)上介绍了其推出的一体化AI解决方案。这是一个交钥匙AI平台,是该公司代工、内存和AVP业务部门共同努力的成果。通过将代工、内存和AVP等多个业务部门紧密协作,三星成功简化了供应链管理,并显著缩短了产品上市时间,总周转时间提升了20%。并且,三星计划在2027年推出一体化、CPO集成的AI解决方案,旨在为客户提供一站式AI解决方案。
借助美国《芯片与科学法案》的东风,三星正在美国加速布局HBM产能。美国商务部(DOC)与三星电子于4月15日签署了一份不具约束力的初步条款备忘录(PMT),根据《芯片与科学法案》提供高达64亿美元的直接资助。三星预计将在未来几年在德克萨斯州中部投资超过400亿美元,包括HBM和2.5D封装产能。
此外,通过投资Tenstorrent、DreamBigSemiconductor、AxeleraAI等AI芯片初创企业,三星也加速了其在AI芯片领域的布局。
2024年7月22日,三星半导体创新中心(SSIC)旗下的风险投资基金三星催化基金(SCF)最近参与了美国AI芯片初创公司DreamBigSemiconductor的B轮7500万美元投资,投资者当中还包括Marvell的创始人。三星的具体投资金额尚未披露。
DreamBig成立于2019年,专注于开发基于小芯片的尖端芯片平台,瞄准的是大型语言模型(LLM)、生成式AI、数据中心、边缘计算和汽车应用。行业观察人士推测,DreamBig的技术可以实现3D高带宽内存(HBM)堆叠,并在内存带宽方面提供强大的性能和效率,可能会被纳入三星未来的AI半导体中。
2024年6月份,三星催化基金还参与了荷兰AI解决方案初创公司AxeleraAI的6800万美元B轮融资。AxeleraAI成立于2021年,为生成式AI和计算机视觉推理提供专门的AI硬件加速技术。
去年8月,三星催化基金加入了由现代汽车集团牵头的对加拿大人工智能芯片初创公司Tenstorrent的1亿美元投资。虽然具体投资金额没有披露,但行业分析师认为三星投资了不少。Tenstorrent由半导体传奇人物JimKeller领导。Tenstorrent是三星代工业务的主要客户,它使用开源RISC-V架构设计用于训练和运行人工智能模型的计算机。三星与Tenstorrent合作预计将加速Tenstorrent基于RISC-V的计算机和AI加速架构的采用。
三星还有意自研AI芯片。据Sedaily报道,三星电子在其第55届年度股东大会上宣布,该公司正准备在2025年初推出自己的AI加速器芯片Mach-1。此举将意味着与Nvidia等公司竞争,据悉,三星已投入数十亿美元进行研发。三星的Mach-1是一款基于专用集成电路(ASIC)的AI推理加速器,配备LPDDR内存,特别适合边缘计算应用。
总之,三星为了赢下AI之战,真的是多路并举了。
SK海力士
SK海力士的母公司SK集团是韩国庞大的投资财团之一,2024年5月,SK集团实际的人工智能投资部门SKNetworks投资了人工智能软件初创公司Upstage,投资者中还包括韩国电信运营商KT、新韩投资(曾支持韩国芯片初创公司Rebellions和MangoBoost)等。Upstage专注于帮助企业开发语言特定的大型语言模型(LLMs),这轮融资使Upstage的总筹资额超过1亿美元,使其成为韩国最资深的人工智能软件初创公司之一。
SK集团最近一直在出售非核心资产,来更加专注于人工智能。例如,SKNetworks同意将其汽车租赁业务SKRent-a-Car以约6.1亿美元的价格出售给私募股权公司AffinityEquityPartners。同月,SKNetworks宣布在硅谷开设了一个人工智能实验室。
而SK最大的人工智能“印钞机”当属SK海力士,在过去一年里,SK海力士的股价翻了一番。所以,SK集团也更加愿意下大注给SK海力士。今年6月底,SK海力士母公司SK集团在一份声明中表示,计划在2028年前向SK海力士投资103万亿韩元(约合748亿美元),大约80%的投资,即82万亿韩元,将用于投资HBM芯片。
目前,SK海力士的投资扩产计划正在稳步推进中。
(一)龙仁半导体产业集群:SK海力士此前定下向龙仁半导体产业集群注资约120万亿韩元。2024年7月26日,SK海力士已批准建设龙仁半导体产业集群首个晶圆厂及事业设施,项目投资约9.4万亿韩元,第一座工厂生产包括代表性AI存储器HBM在内的下一代DRAM。此外,SK海力士计划在第一阶段建设“Mini-fab”,配备300毫米晶圆加工设备的研究设施,帮助小型企业开发、演示和评估技术。
(二)清州M15X晶圆厂:2024年4月24日,SK海力士宣布将在韩国忠清北道清州市建设M15X晶圆厂,作为新的DRAM生产基地,并投资约5.3万亿韩元用于晶圆厂建设。工厂扩建旨在增加高带宽存储和其他先进人工智能芯片的生产能力。该晶圆厂计划于4月底开工建设,目标是2025年11月完工并尽早实现量产。随着设备投资计划的逐步增加,新生产基地的建设总投资长期将超过20万亿韩元。
M15X位于一直在扩展TSV产能的M15附近,是优化HBM生产的最佳条件(图源:SK海力士)
SK海力士希望对M15X和龙仁产业集群的投资能够帮助韩国成为更强大的AI半导体强国,同时为振兴当地经济提供动力。
除了在国内的投资布局,2024年4月3日,SK海力士宣布,计划在美国印第安纳州西拉斐特投资约38.7亿美元,建造一个先进的AI产品封装制造和研发设施。该生产线将批量生产下一代HBM。预计2028年下半年开始量产。
图源:KEI
除了三星和海力士等巨头外,韩国AI芯片产业还涌现出一批充满活力的初创企业,如Rebellions、Sapeon、MangoBoost、HyperAccel、Mobilint、DEEPX和FuriosaAI等。详情请查看《这个国家,豪赌AI芯片》。这些初创企业专注于神经网络加速器、视觉处理等细分领域,不断推出创新性的AI芯片解决方案,为韩国AI芯片产业注入了新鲜血液,丰富了产品形态。
韩国政府的大力支持,如斥资4714亿美元打造龙仁半导体集群,更是为人工智能产业发展注入了强劲动力,极大提振了投资者信心。韩国经济人联合会委托MonoResearch对韩国500家最大企业(按营收计算)的国内投资计划进行了调查,结果发现10.6%的企业表示,他们在今年下半年制定了与人工智能相关的资本投资计划。
2024年以来,OpenAI的CEOSamAltman和Meta的MarkZuckerberg等科技巨头领导者纷纷访韩,寻求与韩国在人工智能领域展开合作。
同时,英伟达和AMD等芯片巨头也看准了韩国AI产业的潜力,积极投资相关初创企业。
2024年6月,英伟达向韩国生成式AI初创公司TwelveLabs提供1000万美元A轮融资,这是一家专注于视频搜索的AI初创公司。三星电子的企业风险投资子公司三星Next和韩国风险投资公司KoreaInvestmentPartners也加入了这轮融资。这是继去年A轮前融资之后,英伟达又一次下注这家公司了。TwelveLabs公司备受业界关注,其视频大模型赢得了微软技术大赛。目前该公司已在其平台中集成了英伟达的一些框架和服务,包括NVIDIAH100TensorCoreGPU和NVIDIAL40SGPU,以改进其视频理解技术。
而在去年10月,AMD和韩国电信公司KT投资了AI软件厂商Moreh的2200万美元的B轮融资,Moreh表示,其旗舰AI软件MoAI与Nvidia的CUDA类似,但与现有的机器学习框架兼容,例如Meta的PyTorch、谷歌的TensorFlow,以及以前只能在Nvidia上运行的应用程序和AI模型。
KT是韩国主要电信公司之一,也是韩国最大的云服务提供商。自2021年以来,KT一直与Moreh合作设计由AMDGPU和MoAI平台软件提供支持的经济高效、可扩展且可访问的AI基础架构。2023年3月至6月,KT和Moreh在MoAI平台和1,200个AMDMI250集群系统上训练了有史以来最大的韩国LLM,参数数量为2210亿。该集群由300个计算节点(每个4个MI250)和38个InfiniBandHDR40端口交换机组成(每个节点提供两个IBHDR连接)。
除了传统科技巨头,中东地区的投资也开始涌入韩国AI芯片领域。2024年7月,韩国AI芯片设计初创公司RebellionsInc.宣布获得沙特阿美旗下企业风险投资基金Wa‘edVentures的投资,据悉,该公司从阿美旗下的企业风险投资基金Wa’edVentures筹集了200亿韩元(1440万美元)。这标志着韩国AI芯片初创公司在国际舞台上的影响力进一步扩大。
韩国在人工智能芯片领域的崛起,得益于其强大的半导体产业基础、政府的大力支持以及国际资本的青睐。
随着Fabless初创公司的兴起,韩国面临着严峻的人才短缺问题。根据韩国半导体产业协会(KSIA)的预测,未来十年,韩国半导体产业的人才缺口将达到5.4万人。这一缺口主要源于以下几个方面:
人才供需失衡:每年韩国毕业的半导体专业人才数量远低于产业需求,无法满足快速增长的市场。在韩国,芯片工程行业并不是学生最青睐的学术领域,因为人们普遍认为工程师的职业生涯会在40多岁左右结束。这就是为什么过去20年来,成绩最好的学生都选择攻读医学学位而不是工程学位。韩国科学技术研究院电气工程教授KimJung-ho表示:“韩国工程师的寿命太短了。
大企业虹吸效应:三星、海力士等巨头企业凭借高薪和良好的发展前景,吸引了大量人才,人才会更期望在大企业就职。中小企业“人才荒”将愈演愈烈。
国际竞争加剧:英伟达、AMD等国际巨头通过高薪、股权激励等方式,积极从韩国挖角人才,加剧了人才流失。根据LinkedIn6月19日的数据,Nvidia从三星电子挖走了500名半导体人才,反观三星只有278名是来自英伟达。SK海力士也被英伟达挖走了38人,没有一名员工转职。韩国企业的人才流出远大于流入。
业内人士指出,韩国国内半导体企业正在积极招揽HBM等高性能存储器岗位,此外,韩国半导体硕士、博士级人才也越来越多地进入该行业,呈现出人才从学术界流向国内企业、再流向国际企业的趋势。半导体产业是韩国经济的支柱,人才流失将对整个经济产生负面影响。
美国专攻芯片设计,中国台湾专攻制造,韩国专攻内存芯片,日本专攻设备和零部件的惯例现在已成为过去。在美国补贴的支持下,英特尔正在大举进军芯片制造,而日本正与台湾联手提升其制造能力。韩国也在AI战略下,一改只有存储的局面,韩国AI芯片产业形成了以三星、海力士为代表的巨头企业,与众多初创企业共同发展的生态系统。这种多元化的生态系统,不仅促进了技术创新,也为韩国AI产业的长期发展提供了有力保障。
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】