谷歌AI专用芯片TPU
十多年投资终见成果
如GPU般高度依赖韩国HBM

谷歌的张量处理单元(TPU)正迅速崛起为英伟达图形处理单元(GPU)的有力对手。TPU原本只是谷歌内部使用的人工智能(AI)训练与推理专用芯片,如今已经摆脱过去作为GPU“补充品”的形象,堂堂正正成为GPU的竞争者。虽然TPU的价值近来才受到集中关注,但谷歌进军AI专用计算机芯片市场可以追溯到10年前。

作为英伟达GPU对手崛起的谷歌TPU

谷歌第七代张量处理单元(TPU)“Ironwood”。谷歌提供

谷歌第七代张量处理单元(TPU)“Ironwood”。谷歌提供

View original image

因AI聊天机器人“Claude”而知名的美国初创公司Anthropic于上月23日(当地时间)与谷歌签署了计算机基础设施合同,约定到明年为止租用规模达1吉瓦(GW)的TPU数据中心。随后又有报道称,Meta也在与谷歌就TPU采购合同进行磋商。根据美国IT媒体《The Information》的报道,目前谷歌的目标是拿下AI加速器市场10%以上的份额。此前AI加速器市场一直由英伟达GPU以90%的占有率垄断,如今首次出现了具有实际意义的竞争者。


谷歌虽是AI产业的先行者,但其业务领域长期局限在服务和软件上。这样一家谷歌,之所以能在AI硬件领域超越AMD等一众强劲企业,秘诀就在TPU。TPU是谷歌自主研发的AI加速器,截至今年年初已推出到第7代。得益于TPU,谷歌降低了对英伟达的依赖,并能更顺利地扩展AI数据中心基础设施。

撼动英伟达生态的谷歌TPU是如何诞生的[科技脱口秀] View original image

AI半导体领军企业谷歌,十余年投资结出果实

谷歌数据中心。谷歌提供

谷歌数据中心。谷歌提供

View original image

事实上,谷歌在AI硬件领域同样是先行企业。英伟达启动面向AI的通用GPU(GPGPU)开发、为AI GPU奠定基础是在2006年,而据悉谷歌同年也组建了机器学习专用半导体团队。该半导体团队在2015年拿出了研究成果TPUv1,这正是谷歌收购神经网络AI初创公司“DeepMind”满一周年的那一年。


2016年,DeepMind开发的围棋AI“AlphaGo”与九段棋手Lee Sedol对弈时,谷歌同时使用英伟达GPU和TPU,但此后开始逐步提高TPU的比重。TPUv1采用业界通常称为“传统半导体”的28纳米(nm)工艺开发,其性能更多是对GPU的补充而非替代。不过,谷歌从未停止对自研半导体的投资。得益于此,TPU在今年年初之前已经历7次架构改良,蜕变为不逊于GPU的尖端半导体,如今与基于ARM架构的中央处理器(CPU)“Axiom”一道,构成了谷歌完整的自研硅生态。

专为AI运算打造的“脉动阵列”结构半导体

TPU是一款只为深度学习加速而设计的“定制型(ASIC)”半导体。若说CPU负责处理计算机的大部分通用任务,GPU负责加速图形处理等多种高级功能,那么ASIC则是只针对特定任务高度优化的芯片。以TPU为例,它内置了数千个名为“累加器”的装置,专门针对AI用矩阵乘法运算进行优化。谷歌将这一设计称为“脉动结构架构(Systolic Architecture)”。


体现出 TPU 独有的“收缩结构”运行状态的画面。谷歌提供

体现出 TPU 独有的“收缩结构”运行状态的画面。谷歌提供

View original image

因此,TPU虽然在CPU、GPU那样的通用性方面有所不足,但在AI处理任务上却无人能敌。实际上,在过去AI加速器专用基准测试“ML Commons”中,TPU是唯一一款在纯计算性能以及能效比两方面都与英伟达GPU旗鼓相当的芯片。


TPU的另一件“武器”是一款名为“AlphaChip”的AI。这是DeepMind于去年9月公开的半导体设计AI,负责完成计算机芯片基板的基础布局设计工作。通过将AI积极应用于芯片设计流程,谷歌得以同时削减新型半导体开发所需的成本与时间。

与GPU一样,TPU对韩国HBM的依赖度也在上升

TPU的崛起,很可能为三星电子、SK海力士等韩国半导体企业带来新的机遇。原因在于,与GPU相同,TPU在不断提升性能的过程中,对高带宽存储器(HBM)的依赖度也越来越高。


目前,第7代TPU“Ironwood”拥有192千兆字节(GB)的HBM存储容量。也就是说,一颗芯片就搭载了8颗海力士第5代HBM——“HBM 3E 8层(24GB)”。与上一代第6代TPU相比,其HBM容量扩大了6倍。



根据投资银行美国银行(Bank of America,BofA)旗下美林环球研究部门的报告,海力士已经向谷歌独家供应HBM 3E,而将在明年亮相的第8代TPU中,预计还将向谷歌供应下一代HBM——HBM 4。


本报道由人工智能(AI)翻译技术生成。

版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。

不容错过的热点