[Peace & Chips]从瓶颈到创新：“HBM”诞生背景

by Kim Pyeonghwa

Published 10 Jul.2023 06:30(KST)

处理器与存储芯片协同更关键
为满足GPU速度需求开发HBM
HBM黄金期开启…三星与海力士受关注

编者按被称为现代产业“米”的半导体。几乎每天都会听到这个词，但真要开口解释时却总是张口结舌吧。复杂晦涩的半导体概念和整个产业脉络，就让“Peace&Chips”来一点点喂给您吃。您只要“端好勺子”就行了。

半导体大致分为存储和系统两大领域。存储半导体负责信息存储，系统半导体则侧重运算。由于功能不同，内部结构和生产这些产品的公司也各不相同。存储半导体的代表选手是DRAM和NAND闪存，系统半导体的种类则包括中央处理器（CPU）、图形处理器（GPU）等各类处理器。

当然，存储和系统半导体被使用的最终目的是一致的，都是为了向用户提供所需的计算性能。目前的计算架构是以“冯·诺依曼结构”为基础，可以理解为以处理器为核心，在存储器的配合下完成既定任务。两者是一种不可分割的协作关系。

SK海力士推出的12层堆叠、24千兆比特(GB)容量HBM3示意图 / SK海力士提供

既然团队协作如此重要，就不能缺了任何一方。存储技术的发展速度也必须跟上处理器技术的发展。如果处理器性能遥遥领先，却还在使用老旧的存储产品，显然说不过去。实际上，进入2010年代后，存储行业开始思考，如何推出能够匹配对更高速度有强烈需求的GPU的存储产品。最终推出的产品，就是所谓的“高带宽存储器（HBM）”。

从大类上看，HBM属于存储半导体中的DRAM品类，但与普通DRAM有相当大差异。它是在DRAM芯片上打出微小通孔，再将多片DRAM叠加而成。通过拓宽数据进出的“道路”——带宽，从而大幅提升数据传输速度，这是其一大特点。为了把多片DRAM连接起来，会用到硅通孔（TSV）技术，这也是另一种存储产品NAND闪存中同样采用的关键技术。

三星电子 HBM3 “Icebolt” 图片图片来源三星电子半导体新闻室截图

SK海力士在2013年12月首次在业界成功开发出应用TSV技术的HBM。由于是与GPU配套使用的产品，在开发过程中公司与美国GPU厂商AMD合作，推出了第一代产品。在这一过程中，还推进了国际半导体标准化组织（JEDEC）关于HBM产品的标准化。据称，当时采用20纳米级DRAM进行4层堆叠，其数据处理速度是当时最高速图形用DRAM的4倍。

十年后的今天，已经出现了采用12层堆叠的第四代HBM产品（HBM3）。去年因ChatGPT效应，生成式人工智能备受关注，预计今后人工智能服务需求将呈爆发式增长。在这一进程中，HBM与GPU一道，正迎来真正的黄金时代。这也是人们对存储行业领跑者三星电子和SK海力士未来动向格外期待的原因。