英伟达发布内存提升3倍的下一代AI芯片：“将疯狂进行推理”

by Cho Seulkina

Published 09 Aug.2023 04:34(KST)

Updated 09 Aug.2023 07:30(KST)

open/close

主导人工智能（AI）芯片市场的英伟达公布了能够对大规模AI语言模型进行推理的下一代AI芯片。不久后，还将推出便于开发生成式AI的平台。

图片由路透社联合通讯社提供

英伟达于8日（当地时间）在美国洛杉矶举行的年度大会上发布了下一代AI芯片“GH200 Grace Hopper超级芯片”。该产品在目前最高规格的H100同款图形处理器（GPU）基础上，结合了141GB尖端内存和72核ARM中央处理器。当地媒体分析称，虽然使用与H100相同的GPU，但内存容量约为其3倍。

英伟达这款新AI芯片的特点是，相较现有芯片扩大了内存容量，从而能够搭载大规模AI模型。英伟达首席执行官（CEO）Jensen Huang表示，“这款产品的设计初衷是帮助全球数据中心扩展规模”。Huang CEO称：“几乎所有你想要的大规模语言模型都可以装进去，然后就会以疯狂的速度进行推理”，“大规模语言模型的推理成本将大幅下降”。此外，英伟达还公布了一种系统，可将两枚GH200芯片组合在一台计算机中，以支撑更大规模的AI模型。

IT专业媒体The Verge指出，“在为生成式AI提供高端处理器的市场中处于领先地位的英伟达，随着对大规模AI模型的需求持续增长，正在推出更为强大的芯片”，并介绍称，这款产品面向“大型语言模型、推荐系统、向量数据库等最复杂的生成式AI工作负载”。正式销售将从明年第二季度开始，价格尚未公布。The Verge补充称，目前H100产品线的售价约为4万美元。

同时，英伟达还发布了平台“NVIDIA AI Workbench”，开发者可以在个人电脑或工作站上开发属于自己的生成式AI。用户可利用所需的企业级模型，轻松定义并运行生成式AI。Workbench不仅支持英伟达自有AI平台的框架、库和软件开发工具包（SDK），也支持GitHub、Hugging Face等平台。

英伟达目前在AI芯片市场的占有率超过80%。AMD、英特尔等公司正扩大自有AI GPU产能，紧追其后。