超越英伟达CUDA的最优优化方案
获美国AMD等2200万美元B轮投资
“未来AI技术助推者…明年正式进军海外”
有一家本土初创企业向占据人工智能半导体市场95%份额的英伟达发起了挑战。人工智能基础设施解决方案企业“MOREH(모레)”正通过人工智能运算自动化、优化软件改变市场范式。
目前在人工智能计算基础设施市场中,运算半导体领域几乎被英伟达的图形处理器(GPU)牢牢占据,市场份额高达95%。尽管GPU价格急剧飙升,但由于缺乏竞争对手,几乎到了“要价即市价”的程度。MOREH首席执行官 Yoon Doyeon 表示:“并不是英伟达GPU性能特别突出,AMD、GraphicCore、Rebellions、FuriosaAI等芯片的性能也很优秀。”他认为关键不在硬件,而在软件。正是因为有了能在GPU上高效运行类似ChatGPT这类深度学习模型的软件“CUDA”,GPU才得以称霸市场。出身于咨询公司贝恩公司(Bain & Company)的 Yoon Doyeon 与首尔大学计算机工程系博士出身的联合创始人 Cho Gangwon 于2020年共同创立了MOREH。
GPU最初是作为图形处理装置问世的。但在将GPU用于天气预报等领域时,人们发现其在数据并行、同时处理方面表现出色。为了在这种并行处理算法中高效利用GPU,英伟达开发了软件CUDA。2015年深度学习热潮兴起之际,多家企业借助CUDA取得了良好成果,英伟达也因此掌握了市场主导权。就像在韩国无论多么方便的新即时通信工具出现,也难以跨越KakaoTalk生态系统的进入壁垒一样,英伟达已经成为人工智能基础设施领域的“KakaoTalk”。
然而,随着类似ChatGPT的超大规模语言模型(LLM)出现,局面发生了变化。CUDA需要手动分配GPU运算任务,但LLM比以前需要更多的计算能力,运算也更加复杂,导致人工优化工作愈发困难。通俗地说,以前只需要1块GPU就够,现在却需要1000块。GPU价格急剧上涨,即便企业有能力承担成本,人工操作的工作量也成倍增加。尤其是当数据量发生变化时,必须应用新的运算流程,仅这一过程就要耗时2至3个月。
MOREH正是注意到了这种变化。既然只用GPU和CUDA会导致基础设施成本暴涨,那么如果开发出类似CUDA的解决方案,使其可以在其他厂商的人工智能半导体上使用,就能降低成本。此外,将原本由人工完成的运算流程工作交由自动化、并行化的优化软件处理,也可以节省时间和费用。使用CUDA时,一旦数据量变化,为了应用新的运算流程,需要2至3个月的人工优化周期,而MOREH通过软件将这一过程实现了自动化,最短2至3天就能完成。Yoon Doyeon 表示:“目前正在与美国半导体企业AMD以及另一家海外系统半导体企业商讨应用事宜”,“可以在原有基础上将成本降低50%至70%,开发周期也能缩短一半。”他还补充称:“我们提供的基础设施软件与CUDA相近,甚至更为出色,却不依附于英伟达这类特定硬件供应商,同时还能提供相同的使用体验。”
Yoon Doyeon 将MOREH定义为人工智能产业的“助力者”。他表示:“MOREH就像一位可靠的伙伴,帮助类似ChatGPT这样的未来人工智能技术更快问世。如果没有MOREH,能够打造超大规模人工智能的企业在全球范围内将寥寥无几,并最终垄断市场。”
尽管是一家成立于2020年的初创公司,但预计今年销售额将超过300亿韩元。其客户包括KT等大型企业,最近还从AMD、KT、Forest Partners、Smilegate Investment等机构获得了2200万美元(约295亿韩元)的B轮融资,正受到国内外关注。以此为基础,公司计划从明年起正式进军全球市场。Yoon Doyeon 表示:“迄今为止主要处于打磨产品的开发阶段,如今则进入了正式的业务拓展阶段”,“特别是吸引包括美国在内的海外客户,是明年的核心计划。”
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。