科斯达克上市公司Sonid(首席执行官 Oh Junggeon)17日表示,公司将利用下一代接口技术——计算快速互连(Compute Express Link,CXL),着手开发克服人工智能半导体内存容量限制的“CXL-GPU技术”。为推进该项技术开发,Sonid与首尔大学计算机工程系 Um Hyunsang 教授团队以及人工智能专业企业 StarLabs 组成了联合体。


近期推出的OpenAI的ChatGPT和Meta的Llama等人工智能服务,随着处理数据量的增加,正需要搭载数十TB内存的系统。然而,英伟达H100等顶级图形处理器内部内存容量仅为数十GB,为构建面向人工智能服务的系统,不得不配置多块图形处理器,由此高成本问题日益凸显。


CXL-GPU技术的特点在于,通过CXL接口连接中央处理器、图形处理器和存储装置,并在图形处理器内部直接搭载大容量内存,从而在降低系统构建成本的同时,确保高性能。CXL-GPU技术虽在业界一直被积极研究,但由于内存读写性能较低,商用化进展困难。不过,首尔大学联合体方面计划通过解决这一问题,实现比现有内存扩展技术高出2倍以上的性能。


今后的研究课题包括:量产普及型及高性能型“无云”人工智能平台,开发人工智能应用一体化算法,以及试生产3种CXL板卡等。联合体还将以研发成果为基础,积极进军非接触式医疗市场和智能人工智能闭路电视市场。


组成联合体的Sonid、首尔大学 Um Hyunsang 教授团队以及StarLabs一直活跃于多个人工智能领域。Sonid通过子公司Sonid Robotics,于今年2月完成了用于视频分析的端侧视觉人工智能“Brainbot”的开发,并已启动量产。Brainbot由硬件(板卡)和软件(应用程序)构成,通过高级计算机视觉和人工智能算法,对视频数据进行实时分析,自动检测特定事件或人的行为。


该产品与拥有世界顶级硬件工程师团队的印度开发商合作完成开发,其特点是通过CXL接口对内存性能进行了优化。


首尔大学 Um Hyunsang 教授团队在总负责“三星电子—首尔大学异构系统优化要素技术开发战略产学课题”的过程中,开发了“异构内存高效管理技术”,并在与美国劳伦斯伯克利国家实验室(Lawrence Berkeley National Laboratory)合作过程中,开发了利用内存或存储层级的“高效分布式(Burst Buffer)存储系统软件技术”,并凭借该技术在电气电子工程师学会(IEEE)Cluster国际学会上获得最佳论文奖。


人工智能专业企业StarLabs在引领人工智能研究与开发的同时,凭借多种人工智能算法和数据处理技术,持续提供创新的人工智能解决方案。预计StarLabs的技术今后将进一步强化基于CXL-GPU的解决方案,并有助于提升人工智能服务性能。



据市场调研机构Yole Intelligence预测,CXL业务的全球市场规模到2028年将达到约15.8亿美元。Sonid首席执行官 Oh Junggeon 表示:“通过本次合作与技术开发,将在人工智能半导体市场具备竞争力”,并称“将努力提供利用CXL技术的创新型内存扩展解决方案”。


本报道由人工智能(AI)翻译技术生成。

版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。

不容错过的热点