[解读科学]家用电脑也能运行大型人工智能任务

by Paek Jongmin

Published 11 Mar.2024 07:39(KST)

Updated 11 Mar.2024 14:22(KST)

open/close

Kim Minsu KAIST教授团队开发出消除GPU大规模数据处理瓶颈技术

韩国国内研究团队开发出一项技术，有望消除由于广泛应用于人工智能（AI）等领域的图形处理器（GPU）显存容量受限而产生的计算结果“瓶颈”现象。预计今后即便通过家用或小型企业使用的个人电脑（PC）中的GPU，也能执行大规模AI任务。

KAIST 计算机系教授 Kim Minsu

11日据韩国科学技术院（KAIST，校长 Lee Kwanghyung）消息，该校计算机系 Kim Minsu 教授研究团队近期开发出一项数据处理技术“INFINEL”，可将GPU生成的数太字节级的大规模数据分析结果或AI生成内容，高速传输并存储到主内存中。

与中央处理器（CPU）相比，GPU更适合用于AI训练，但与CPU不同的是，其内存管理功能极为有限，因此难以灵活管理不可预知的大规模数据。正因如此，迄今为止一直无法利用GPU执行诸如“三角形列举”这类难度极高的图结构超并行计算。

目前这一问题尚属局部，但随着近期AI应用的急剧扩展，图结构数据的构建和使用也在不断增加。当对图结构数据执行高难度的超并行运算时，输出结果会非常庞大，而且难以预测各线程输出的规模。

Kim 教授团队开发的“INFINEL”技术是解决这一问题的“特效药”。使用该技术，即便GPU显存已被占满，也可以持续进行超并行计算以及结果的输出和存储。Kim 教授解释称：“即使用显存较小的PC用GPU，也能快速执行会产生数太字节以上输出数据的高难度运算。”他补充表示：“本次研究是为了在AI训练不断扩大的背景下，预先识别并前瞻性应对可能出现的问题而推进的。”

Kim 教授团队通过多种实验环境和数据集验证了INFINEL技术的性能。结果显示，与传统最高性能的动态内存管理器技术相比，运算性能提升约55倍；与需要两次执行内核的两阶段技术相比，运算性能提升约32倍。

Kim 教授表示：“在生成式AI和元宇宙（扩展虚拟世界）时代，能够快速处理GPU计算产生的大规模输出数据的技术将愈发重要，而INFINEL技术有望在其中发挥一定作用。”

研究团队介绍称，由于INFINEL技术在不受GPU显存容量影响的情况下也能展现出一致的性能，因此同样适合那些因预算有限而在数据分析方面面临困难的企业。