[Peace and Chips]三星半导体瞄准的新增长点“端侧AI”

by Kim Pyeonghwa

Published 31 Jul.2023 08:20(KST)

设备端实现“On-Device AI”
亟需更快、更小、低功耗半导体
三星电子：“LLW DRAM 目标明年量产”

编辑者注被称为现代产业“粮食”的半导体。每天都在听这个词，但真要开口解释时却总是说不出来吧？在“Peace & Chips”栏目中，我们会把艰深的半导体概念和整个产业的脉络掰开揉碎，轻松地“喂”给您，您只要“端起勺子”就行了。

“生成式人工智能正向服务器为基础的方向发展，但出于效率和安全原因，将人工智能直接在终端设备上实现的端侧（On Device）人工智能也在不断扩大。”这是Samsung Electronics存储器事业部副社长Kim Jaejun上周在第二季度业绩发布后的电话会议上所说的话。他在介绍为迎接人工智能时代而推进的存储器业务时，将最近备受关注的人工智能发展大方向之一——端侧人工智能作为重点进行了点明。

此前，Samsung Electronics DS部门长（社长）Kyung Kyehyun也提到了端侧人工智能。本月他通过自己的社交媒体账号表示：“从云端的生成式人工智能出发，关于边缘侧端侧人工智能的讨论也在积极展开”，“现在正是我们要认真思考，为了在人工智能版图中创造并获取价值，还需要多做些什么的时候。”那么，端侧人工智能究竟是什么，为什么会被频繁提及呢？

三星电子华城园区全景 / 三星电子提供

端侧人工智能，是指在各类设备上即便不连接网络也能运行的人工智能。我们通常所了解的人工智能服务，是在高性能服务器上以处理海量数据的方式来实现的，因此网络连接是必不可少的；而端侧人工智能则不经由服务器，而是由设备自身采集和运算数据，从而执行所需功能。因此可以实现更加快速的服务。

同时，由于无需将数据发送到服务器，也就能解决个人信息或敏感数据泄露等安全问题。还可以减少在服务器端处理各类数据时不可避免的能源消耗。要把人工智能技术发展所带来的未来图景真正落地实现，扩大端侧人工智能被认为是必不可少的，这正是相关评价出现的背景。

近期半导体行业对生成式人工智能效应带来的高性能半导体需求增长寄予厚望，而端侧人工智能也被预计将带来不逊色的“蛋糕”。有观点认为，它甚至可能形成更大的市场。业内表示：“从无人机、扫地机器人到自动驾驶汽车，所有在网络中断状态下也必须运行的设备中，端侧人工智能的重要性都会进一步提升”，因此正全力投入相关技术开发。

要在各类设备上很好地实现端侧人工智能，处于系统核心位置的半导体必须充分发挥其作用。为此，需要制造出比现有产品反应速度更快、功耗更低、体积更小的半导体芯片。从存储器半导体领域来看，这与此前针对移动用动态随机存取存储器所提出的技术课题有相当相似之处。

以Samsung Electronics为例，该公司在此次电话会议上表示，正在开发专门面向端侧人工智能的动态随机存取存储器，并计划在明年年底实现量产。这款产品就是LLW（Low Latency Wide IO，低时延宽输入输出）动态随机存取存储器。据介绍，该产品相比现有移动用动态随机存取存储器具有显著更高的带宽，因此在对设备中产生的数据进行实时处理方面具有巨大优势。带宽就好比数据进入的道路，带宽越高，数据传输就越快。让我们一同期待将在端侧人工智能时代登场的新型半导体吧。