硬件与软件协同设计
Arm 计算与 Meta 基础设施融合
通过开源项目构建与部署 AI
英国半导体设计企业Arm将与美国科技企业Meta加强战略合作伙伴关系,从人工智能(AI)软件到数据中心基础设施,在计算的全栈领域扩展AI效率。
双方于17日表示,将通过本次合作为全球用户提供更为升级的AI体验。从支持端侧智能(本地AI运算技术)的毫瓦级低功耗设备,到负责训练最前沿AI模型的兆瓦级大规模系统,将在驱动Meta全球平台的全线计算环境中优化AI性能。
此次加强战略合作伙伴关系,基于两家公司多年持续推进的软硬件联合设计合作。双方将把Arm在高能效AI计算技术方面的实力,与Meta在AI产品、基础设施和开源技术创新方面的优势相结合,目标是大幅提升性能与效率。
Meta基础设施部门负责人Santosh Janardhan表示:“从平台体验到我们打造的各类设备,AI正在改变人们连接与创造的方式。通过与Arm的合作,我们能够更高效地向超过30亿名使用Meta应用和技术的用户提供创新。”
Arm首席执行官(CEO)Rene Haas表示:“在下一代AI时代,实现大规模效率将是关键。通过与Meta的合作,我们将把Arm在功耗比性能上的优势与Meta的AI创新能力相结合,在从毫瓦级到兆瓦级的所有领域实现更智能、更高效的智能系统。”
支撑包括Facebook和Instagram在内的Meta应用产品矩阵整体搜索与个性化功能的、基于AI的排序和推荐系统,将利用基于Arm Neoverse的 数据中心平台,相比x86系统提供更高性能和更低功耗。Arm Neoverse将帮助Meta在整体基础设施层面实现更优的功耗比性能效率,并在超大规模环境中强化Arm计算的效率与可扩展性。
双方从编译器和库到主流AI框架,紧密合作,将Meta的AI基础设施软件栈针对Arm架构进行优化。其中包括对Facebook通用矩阵乘法库(FBGEMM)和PyTorch等开源组件进行联合调优。同时,积极利用Arm的向量扩展功能和性能库,在推理效率和吞吐量方面取得可量化的提升。这些优化成果已向开源社区开放,正在扩大对全球AI生态系统的影响力。
本次合作还将进一步强化在PyTorch机器学习框架、ExecuTorch边缘推理运行时引擎以及vLLM数据中心推理引擎等全线AI软件上的优化。尤其是通过对基于ExecuTorch、并已针对Arm KlediAI优化的基础进行高度完善,在数十亿台设备上提升效率,并通过进一步简化模型部署,加速从边缘到云端的AI应用性能。
这些开源技术项目是Meta AI战略的核心,使从推荐系统到对话式智能在内的多种AI开发与部署成为可能。双方今后还将持续扩大对开源项目的优化力度,帮助全球数百万开发者在基于Arm的环境中构建并部署更高效的AI系统。
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。