英国半导体设计企业Arm于27日发布了可在端侧设备环境中运行、由超过10亿个参数组成的人工智能(AI)模型的新型中央处理器(CPU)“Arm Cortex-A320”,以及搭载该处理器的“Armv9边缘AI平台”。


Arm Korea社长Hwang Seonuk当天在首尔中区The Plaza酒店举行的记者座谈会上表示:“随着AI模型日益复杂,对更高性能和更多电力的需求不断增加”,“AI设备需要具备持续更新的灵活性,边缘AI的重要性也愈发凸显。”他以此说明了产品推出的背景。


边缘AI是将移动通信网络与AI计算相结合的基础设施。与大规模AI数据中心相比,在低时延、安全性和个人信息保护强化等方面被认为更具优势。在探索工厂现场的自动驾驶车辆、通过软件更新调整功能的智能摄像头等物联网(IoT)领域尤其备受关注。


新CPU Arm Cortex-A320作为Armv9边缘AI平台的“心脏”发挥作用。该产品将机器学习性能相比前代Cortex-A35提升了10倍。Arm表示,它提供高级安全功能,即使在暴露环境中运行或处理敏感数据的边缘设备上也十分有用。该产品计划于明年实现量产。


搭载Cortex-A320的Armv9边缘AI平台可以运行面向Agent AI的超大规模语言模型(LLM)和小型语言模型(SLM)。通过在更接近数据采集时点的位置执行决策,还可以缩短时延。



Arm还表示,面向开发者的计算库套件“Arm Kleidi”也正在向IoT领域扩展。


本报道由人工智能(AI)翻译技术生成。

版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。

不容错过的热点