[Peace & Chips]“今年需求高达3亿GB”……AI服务器核心芯片备受关注
尽管半导体景气低迷,HBM 前景依然乐观
HBM 价格比 DDR5 DRAM 贵 3~5 倍
今年与 GPU 搭配使用的 HBM 容量将增加 60%
“越依赖高性能人工智能(AI)服务器,就越需要高性能AI半导体。2023年至2024年期间,不仅会推高高带宽存储器(HBM)的需求,还将把2024年高级封装(将HBM存储器与中央处理器(CPU)、图形处理器(GPU)等封装在一起)的搭载容量提高30%至40%。”
市场调研机构TrendForce于21日在报告中作出上述表示。生成式AI需求激增,不仅微软(Microsoft,MS)、谷歌、亚马逊云服务(Amazon Web Services,AWS)等主要云服务提供商(Cloud Service Provider,CSP),包括百度、字节跳动在内的中国企业也将加快AI服务器开发步伐,这是该机构给出的展望。
只要对半导体市场稍有关注,最近应该已经多次听到HBM这个产品名。半导体大致分为存储半导体(存储)和系统半导体(运算),HBM属于存储半导体中断电后会丢失数据的动态随机存取存储器(DRAM)的一种。它通过将多层DRAM垂直堆叠,大幅提高数据传输速度。
由于HBM比普通DRAM的数据传输速度更快,非常适合应用在AI服务器上。这也是在如今必须处理海量数据的AI服务器中,与GPU一起成为必备配置的原因。主导全球存储器市场的三星电子和SK海力士在HBM产品开发上大力投入,也正是出于这一背景。
TrendForce预测,随着英伟达(Nvidia)、AMD的GPU以及谷歌的张量处理器(Tensor Processing Unit,TPU)等搭载于AI服务器时所配套的HBM容量,仅今年一年就将达到2.9亿千兆字节(GB),同比大增60%。该机构还预计,明年有望在此基础上再增加30%。可谓一片“玫瑰色前景”。
当然,围绕HBM市场,也存在谨慎声音。有人指出,与话题热度相比,实际市场尚未真正成形。半导体业界预计,HBM市场规模约占整个DRAM市场的1%左右。以去年约800亿美元的DRAM市场规模粗略估算,HBM市场规模大致在8亿美元上下。
即便如此,各大存储企业仍将HBM视为下一代存储器的核心关键词。三星电子半导体负责人、DS部门主管社长Kyung Kyehyun本月在面向员工的沟通渠道“Witalk”上以AI时代为主题发表讲话时表示:“随着AI时代到来,为提升AI性能和效率,半导体的重要性将不断提高,因此HBM愈发关键。”
业界普遍预计,今后三星电子、SK海力士等主要厂商将致力于在HBM市场做大“蛋糕”。三星电子近日频繁动作,例如向专利局申请多个以“Volt”结尾的HBM品牌名称等。公司还预告将在下半年推出第5代HBM产品HBMP。
KB证券研究员Kim Dongwon则表示:“三星电子将从第四季度起,正式向北美GPU厂商供应HBM3(第4代HBM产品),预计三星电子DRAM销售中HBM3的占比将从今年的6%扩大到明年的18%。”
展示GPU和HBM(存储器)各自工作内容的信息图。GPU持续从存储器中读取已存储的人工神经网络和部分数据,执行运算(训练及推理),并反复将中间产出物和最终结果等写回存储器。SK海力士新闻室供图及说明提供
View original image2013年率先在全球开发出HBM并逐步巩固市场地位的SK海力士,也将在下半年推出第5代HBM产品HBM3E的样品,着手扩大相关业务。在包括近期参加的美国IT展会“HPE Discover 2023”在内的各类展示下一代存储器的场合,SK海力士都会拿出HBM产品,积极展示其技术实力。
上个月,公司宣布率先在全球开发出目前容量最高的24GB HBM3,并已向包括AMD在内的客户提供样品。AMD存储产品部门总负责人、副总裁Roman Kiriuchinsky就此表示:“感谢SK海力士持续不断地开发出新的HBM存储器。”
目前HBM属于高性能产品,其价格是面向服务器的高价产品——双倍数据速率(Double Data Rate,DDR)5代DRAM的3至5倍。业界认为,未来随着HBM的供需双双扩大,价格回落后,市场将真正全面打开。我们有理由期待本土企业将要开辟的HBM新市场。
本文为《亚洲经济》每周推出的专栏《Peace & Chips》内容。点击订阅即可免费获取文章。
☞订阅
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。