参数达2.5亿个,语境理解能力增强
Eom Junghwan代表:“sLLM功耗低、效率高”
基于AMD的人工智能(AI)模型开发企业 Motif Technologies(下称“Motif”)表示,其开发的小型语言模型(sLLM)“Motif 2.6B”将以开源形式在 Hugging Face 上公开,并于10日对外发布。
此次公开的模型,是母公司、AI基础设施专业企业 More 基于图形处理器(GPU)资源的高效利用和集群软件(SW)优化技术,由 Motif 开发出的轻量化高性能AI模型。Motif 是一家利用作为英伟达竞争对手的AMD GPU基础设施开发AI模型、站在“去英伟达”前沿阵线的企业。
当天发布的 Motif 2.6B 是一款拥有26亿个参数的 sLLM,据悉不仅在同级别模型中表现突出,甚至还超越了参数规模为70亿的模型性能。
为进行准确的性能比较,Motif 采用各开发商公开的技术报告中的评分和设定值,以相同条件计算基准测试分数。结果显示,Motif 2.6B 的性能达到参数为70亿的 Mistral 7B 的134%。尤其在高难度数学、科学以及编程能力方面,取得了相对更高的分数。
Motif 2.6B 最大的技术特点是强化了对语境的理解能力。通过减少参考错误语境而生成不准确句子的失误,并在设计上让模型更加聚焦于必需的核心语境。
Motif 首席执行官 Lim Jeonghwan 表示:“近期 Gartner 预测,到2027年,企业对小型语言模型的使用量将超过大型语言模型的3倍。小型语言模型可在低功耗条件下运行,无需超级计算机即可运营,成本效益高,因此能在实际产业现场得到多样化应用。”他接着称:“我们将利用此次推出的 Motif 2.6B,进一步发展为可在日常生活中使用的端侧(On-device)AI和 Agentic AI 模型。”
今后,Motif 将通过母公司 More 的AI基础设施软件以及自身掌握的高性能AI开发能力,推进多种AI模型的开发。公司计划在今年年底前,以开源形式公开可将文本转换为图像或视频等的多模态模型,为扩展AI产业生态系统作出贡献,并争取获取多样化客户。
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。