参数达2.5亿个,语境理解能力增强
Eom Junghwan代表:“sLLM功耗低、效率高”

基于AMD的人工智能(AI)模型开发企业 Motif Technologies(下称“Motif”)表示,其开发的小型语言模型(sLLM)“Motif 2.6B”将以开源形式在 Hugging Face 上公开,并于10日对外发布。

Morae子公司发布小型语言模型“Motif 2.6B”…加速摆脱英伟达 View original image

此次公开的模型,是母公司、AI基础设施专业企业 More 基于图形处理器(GPU)资源的高效利用和集群软件(SW)优化技术,由 Motif 开发出的轻量化高性能AI模型。Motif 是一家利用作为英伟达竞争对手的AMD GPU基础设施开发AI模型、站在“去英伟达”前沿阵线的企业。


当天发布的 Motif 2.6B 是一款拥有26亿个参数的 sLLM,据悉不仅在同级别模型中表现突出,甚至还超越了参数规模为70亿的模型性能。


为进行准确的性能比较,Motif 采用各开发商公开的技术报告中的评分和设定值,以相同条件计算基准测试分数。结果显示,Motif 2.6B 的性能达到参数为70亿的 Mistral 7B 的134%。尤其在高难度数学、科学以及编程能力方面,取得了相对更高的分数。


Motif 2.6B 最大的技术特点是强化了对语境的理解能力。通过减少参考错误语境而生成不准确句子的失误,并在设计上让模型更加聚焦于必需的核心语境。


Motif 首席执行官 Lim Jeonghwan 表示:“近期 Gartner 预测,到2027年,企业对小型语言模型的使用量将超过大型语言模型的3倍。小型语言模型可在低功耗条件下运行,无需超级计算机即可运营,成本效益高,因此能在实际产业现场得到多样化应用。”他接着称:“我们将利用此次推出的 Motif 2.6B,进一步发展为可在日常生活中使用的端侧(On-device)AI和 Agentic AI 模型。”



今后,Motif 将通过母公司 More 的AI基础设施软件以及自身掌握的高性能AI开发能力,推进多种AI模型的开发。公司计划在今年年底前,以开源形式公开可将文本转换为图像或视频等的多模态模型,为扩展AI产业生态系统作出贡献,并争取获取多样化客户。


本报道由人工智能(AI)翻译技术生成。

版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。