Galaxy S24将配备LLW DRAM
扩大内存带宽(速度)的DRAM
降低延迟 更适合AI推理任务

预计将于明年第一季度发布的三星电子旗舰智能手机Galaxy S24,有望搭载一种名为“低延迟宽I/O(Low Latency Wide I/O,LLW I/O)DRAM”的新型内存。


几个月前,苹果曾表示将把这项技术应用于其虚拟现实(VR)设备“Vision Pro”,因此备受业界关注。而在智能手机中首次搭载该技术的,将是三星电子的Galaxy S24,它具有极大潜力,将Galaxy S24的人工智能(AI)推理性能发挥到极致。


提升内存速度的“高速公路”
图片与报道中提及的具体表述无关

图片与报道中提及的具体表述无关

View original image

所有计算机芯片都配有输入输出装置,即I/O。它以焊接在芯片上的小型引脚形式存在,半导体中的数据正是通过这些引脚进行传输。可以把I/O比作数据的“高速公路”。所谓LLW DRAM,就是通过大幅增加I/O引脚数量,从而提升DRAM内存传输速度的一种内存装置。


前面提到的苹果Vision Pro中,将搭载SK海力士的LLW DRAM。这款DRAM的I/O引脚数量为512个,是现有DRAM(64个)的8倍。这意味着表示内存数据传输速度的带宽也相应大幅提升。


突破层级结构的极限

DRAM带宽变大,会带来什么好处?要理解这一点,首先需要了解所谓“内存层级结构”。人们通常认为韩国半导体产业在内存领域具有优势,但内存本身也分为多种装置,包括硬盘驱动器(HDD、SSD)、DRAM、缓存(L1、L2、SRAM)、寄存器等。


存储器层次结构示意图

存储器层次结构示意图

View original image

如果对层级结构进行过于细致的拆分会变得非常复杂,因此在最大程度简化后,可以用如下金字塔结构来表示:越往下,速度(即带宽)越慢,但内存容量越大;越往上,速度越快,但容量越小。尤其是缓存由于内置于中央处理器(CPU)之中,因此速度最快。


由此也就可以理解,为何DRAM是众多内存产品中的主力。DRAM在速度上属中等,在容量上也属中等,价格也相对低廉。因此,将其配置在CPU旁边以强化内存性能非常便利。


虚拟现实(VR)设备关键在于实现能够追踪人眼眼球运动的画面。苹果的Vision Pro搭载了SK海力士的LLW DRAM,将延迟问题降至最低。苹果提供

虚拟现实(VR)设备关键在于实现能够追踪人眼眼球运动的画面。苹果的Vision Pro搭载了SK海力士的LLW DRAM,将延迟问题降至最低。苹果提供

View original image

问题在于,处于层级结构中间位置的DRAM,其速度也“中不溜”。当CPU执行运算任务、从DRAM中读取已存储数据时,必然会产生延迟(Latency),进而导致性能下降。对于以快速画面处理为生命线的VR设备,以及必须处理海量参数数据的AI任务而言,这是一大致命短板。


在服务器设备中,为了解决延迟问题,会采用一种名为HBM的特殊内存——将多颗DRAM堆叠,并在中央贯穿布置电极。但像智能手机或VR设备这类小型电子产品,显然无法“硬塞”HBM进去。因此诞生的替代方案就是LLW DRAM。当然,LLW DRAM不可能快到与缓存相提并论,但至少足以在与现有产品相比时,将延迟降到最低的合适水准。


为AI而生的DRAM
三星公开的下一代智能手机芯片架构。 图片出处为三星电子“X”提供

三星公开的下一代智能手机芯片架构。 图片出处为三星电子“X”提供

View original image

上月30日(当地时间),三星在其官方社交媒体上展示了一种搭载LLW DRAM的新型系统级芯片(System on Chip,SoC)结构。从图片可以看到,处理器旁边直接连接着DRAM与LLW。LLW与CPU协同工作,而在需要更多内存的任务中,则会再“借用”其余DRAM容量。


这种结构在智能手机执行AI推理任务时极为理想。尤其是以ChatGPT为代表的生成式AI,对高内存带宽有着刚性需求。正因如此,英伟达图形处理器(GPU)在构建AI专用数据中心时也会采用HBM。LLW DRAM具有成为智能手机产业中HBM替代方案的潜力。


此前,三星在上月8日于韩国举行的“Samsung AI Forum 2023”上,公开了自研生成式AI模型“Gauss”。Gauss由负责生成语言、代码和图像的三大模型构成,其相关功能计划由三星云端与智能手机端的本地设备协同处理。



如果此次三星公开的新型DRAM能够顺利运转,那么明年上市的Galaxy S24,就有望真正成为三星AI的“先锋部队”。


本报道由人工智能(AI)翻译技术生成。

版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。

不容错过的热点