以“加速AI性能的AiM”为口号参展
展示面向AI时代的技术与愿景
SK海力士智能半导体…专为LLM优化

SK海力士近日在美国加利福尼亚州圣何塞举行的“人工智能(AI)硬件与边缘AI峰会2024(AI硬件峰会)”上,展示了加速卡AiMX等面向AI时代的技术。


SK海力士19日表示,最近在美国加利福尼亚州圣何塞举行的“人工智能(AI)硬件与边缘AI峰会2024”上,展示了包括加速卡AiMX在内的多项面向AI时代的技术。照片为在AI硬件峰会上展出的SK海力士AiM芯片和AiMX卡。照片由SK海力士提供 图片由韩联社提供

SK海力士19日表示,最近在美国加利福尼亚州圣何塞举行的“人工智能(AI)硬件与边缘AI峰会2024”上,展示了包括加速卡AiMX在内的多项面向AI时代的技术。照片为在AI硬件峰会上展出的SK海力士AiM芯片和AiMX卡。照片由SK海力士提供 图片由韩联社提供

View original image

据SK海力士新闻室19日报道,SK海力士以“从数据中心到边缘设备,加速AI性能的AiM”为口号参加本次活动,发布了AiM解决方案及未来愿景。


AiM是SK海力士智能半导体(PIM,内存中处理)产品名称。本次亮相的AiMX是采用GDDR6-AiM芯片、专门针对大语言模型(LLM)优化的SK海力士加速卡。


SK海力士表示,其AiM通过在内存内部执行部分运算,相比传统内存展现出更高带宽和优异的能效表现,使得满足基于LLM的生成式AI所需的高算力需求更加经济高效。在展台上,企业利用Meta最新LLM模型“Llama 3 70B”演示了AiMX的性能。


此次公开的AiMX内存容量由16GB(千兆字节)提升至32GB,相比此前扩大一倍。此外,该产品采用同时处理多个数据组的多批次(Multi-Batch)技术进行数据处理,备受关注。


AI硬件峰会是一项由全球信息技术企业和有潜力的初创公司等参与、共享最新技术与研究成果,并通过交流寻求产业内合作机会的活动。


SK海力士在本次活动中不仅面向数据中心,还发布了可应用于边缘设备(端侧AI)的AiM解决方案。SK海力士表示:“在无需改变现有边缘设备内存接口的前提下即可提升性能,是本次解决方案的一大优势”,“若将移动动态随机存取存储器替换为SK海力士的AiM,预计LLM运行速度和能效相比现有水平最高可提升3倍以上”。


Lim Uicheol SK海力士副社长在主题发表中强调,AiM技术是面向LLM服务的核心解决方案,并分享了基于移动动态随机存取存储器、用于端侧AI的AiM产品开发计划。



SK海力士表示:“今后也将通过多样化的AiM解决方案,与全球企业合作构建下一代AI加速器生态系统,并在端侧AI市场持续强化领导力。”


本报道由人工智能(AI)翻译技术生成。

版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。

不容错过的热点