Galaxy S24隐藏王牌:“内存高速公路” [科技Talk]
Galaxy S24将配备LLW DRAM
扩大内存带宽(速度)的DRAM
降低延迟 更适合AI推理任务
预计将于明年第一季度发布的三星电子旗舰智能手机Galaxy S24,有望搭载一种名为“低延迟宽I/O(Low Latency Wide I/O,LLW I/O)DRAM”的新型内存。
几个月前,苹果曾表示将把这项技术应用于其虚拟现实(VR)设备“Vision Pro”,因此备受业界关注。而在智能手机中首次搭载该技术的,将是三星电子的Galaxy S24,它具有极大潜力,将Galaxy S24的人工智能(AI)推理性能发挥到极致。
提升内存速度的“高速公路”
所有计算机芯片都配有输入输出装置,即I/O。它以焊接在芯片上的小型引脚形式存在,半导体中的数据正是通过这些引脚进行传输。可以把I/O比作数据的“高速公路”。所谓LLW DRAM,就是通过大幅增加I/O引脚数量,从而提升DRAM内存传输速度的一种内存装置。
前面提到的苹果Vision Pro中,将搭载SK海力士的LLW DRAM。这款DRAM的I/O引脚数量为512个,是现有DRAM(64个)的8倍。这意味着表示内存数据传输速度的带宽也相应大幅提升。
突破层级结构的极限
DRAM带宽变大,会带来什么好处?要理解这一点,首先需要了解所谓“内存层级结构”。人们通常认为韩国半导体产业在内存领域具有优势,但内存本身也分为多种装置,包括硬盘驱动器(HDD、SSD)、DRAM、缓存(L1、L2、SRAM)、寄存器等。
如果对层级结构进行过于细致的拆分会变得非常复杂,因此在最大程度简化后,可以用如下金字塔结构来表示:越往下,速度(即带宽)越慢,但内存容量越大;越往上,速度越快,但容量越小。尤其是缓存由于内置于中央处理器(CPU)之中,因此速度最快。
由此也就可以理解,为何DRAM是众多内存产品中的主力。DRAM在速度上属中等,在容量上也属中等,价格也相对低廉。因此,将其配置在CPU旁边以强化内存性能非常便利。
问题在于,处于层级结构中间位置的DRAM,其速度也“中不溜”。当CPU执行运算任务、从DRAM中读取已存储数据时,必然会产生延迟(Latency),进而导致性能下降。对于以快速画面处理为生命线的VR设备,以及必须处理海量参数数据的AI任务而言,这是一大致命短板。
在服务器设备中,为了解决延迟问题,会采用一种名为HBM的特殊内存——将多颗DRAM堆叠,并在中央贯穿布置电极。但像智能手机或VR设备这类小型电子产品,显然无法“硬塞”HBM进去。因此诞生的替代方案就是LLW DRAM。当然,LLW DRAM不可能快到与缓存相提并论,但至少足以在与现有产品相比时,将延迟降到最低的合适水准。
为AI而生的DRAM
上月30日(当地时间),三星在其官方社交媒体上展示了一种搭载LLW DRAM的新型系统级芯片(System on Chip,SoC)结构。从图片可以看到,处理器旁边直接连接着DRAM与LLW。LLW与CPU协同工作,而在需要更多内存的任务中,则会再“借用”其余DRAM容量。
这种结构在智能手机执行AI推理任务时极为理想。尤其是以ChatGPT为代表的生成式AI,对高内存带宽有着刚性需求。正因如此,英伟达图形处理器(GPU)在构建AI专用数据中心时也会采用HBM。LLW DRAM具有成为智能手机产业中HBM替代方案的潜力。
此前,三星在上月8日于韩国举行的“Samsung AI Forum 2023”上,公开了自研生成式AI模型“Gauss”。Gauss由负责生成语言、代码和图像的三大模型构成,其相关功能计划由三星云端与智能手机端的本地设备协同处理。
如果此次三星公开的新型DRAM能够顺利运转,那么明年上市的Galaxy S24,就有望真正成为三星AI的“先锋部队”。
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。