在 A.Dot 通话摘要等服务中测试搭载 Rebellions NPU
国产大模型配国产 NPU 使用…“强化 AI 生态自立性”
SK电讯25日表示,正与人工智能(AI)半导体初创企业Rebellion合作,对在SKT主要AI服务中应用Rebellion的NPU(神经网络处理器)进行测试。
NPU是为实现AI而特化设计的芯片,被视为AI不可或缺的半导体。其能够同时处理数千个以上的运算,主要用于深度学习。深度学习是指计算机对外部数据进行组合、分析并自主学习的技术,随着深度学习的出现,AI性能大幅提升。
SKT和Rebellion正在将搭载数据中心用AI半导体“ATOM”的服务器,应用于A.Dot电话通话摘要、PASS垃圾电话过滤、PASS金融秘书、Excalibur等服务的测试。
根据测试结果,双方以在年内将作为ATOM性能增强版、用于大规模AI推理的AI半导体“ATOM-Max”应用于上述服务为目标。SKT计划以测试结果为基础,今后持续扩大Rebellion NPU服务器的引进。
双方表示,此次面向SKT AI服务的Rebellion AI半导体测试及商用化论证,具有实现韩国本土AI生态自立的意义。A.Dot电话通话摘要是基于SKT自研的大型语言模型(Large Language Model,LLM)“A.X”实现的。如果通过国产AI半导体ATOM提供该服务,则意味着国产LLM通过国产NPU提供服务,从而实现所谓的“主权AI”。
双方计划以本次测试为起点,持续扩大合作范围。SKT成长事业推进室室长Lee Sangmin表示:“在国家间AI技术竞争日益激化的当下,加强国内AI生态的自立性,是关系到国家而非单个企业竞争力的重要因素。SKT今后也将为包括AI数据中心、LLM、AI半导体在内的国内AI生态能力提升而持续努力。”
Rebellion代表Park Sunghyun表示:“国产AI半导体能够应用于SKT基于国产LLM的服务,不仅意味着技术完成度的提升,更是实现国内AI生态自立的重要里程碑。Rebellion今后也将通过稳定且高能效的AI基础设施,助力大韩民国跃升为全球AI三大强国之一。”
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。