《为生成式AI开启新舞台的端侧AI》报告
“在设备上运行AI服务的端侧AI崛起”
“端侧AI在速度、成本和安全方面具备优势”
在弥补现有云端基础人工智能（AI）缺点的“端侧AI”（On-device AI）崛起之际，一项成功落地端侧AI技术并推动服务多元化的战略被提出。
SamjungKPMG于25日发布了《为生成式AI展开的新舞台——端侧AI》报告，对作为新平台崛起的端侧AI技术的应用战略进行了分析。
OpenAI的ChatGPT、谷歌的Gemini、微软的Copilot等基于生成式AI的现有AI服务，是以大规模语言模型为基础运行，并利用云端系统。随着模型日益庞大，大型AI模型的运营问题日渐凸显，尤其是消耗大量数据，导致电力和半导体等计算能力相关资源被大量占用。
相较之下，端侧AI是在用户将需求输入到设备后，由内置于设备中的AI模型和半导体等自有数据处理系统启动，在无需对数据进行外部传输的情况下即可实现AI服务。三星电子的Galaxy S24系列、Apple Intelligence、微软的Copilot+PC等搭载端侧AI的创新产品和功能相继亮相。
基于此的生成式AI服务具有AI模型分析速度快、系统运营成本相对较低等优势。由于不会将用户输入的信息输出到设备外部，因此也更适合处理包括个人信息在内的敏感数据。在数据处理方面，对为传输至外部网络及云端而建设基础设施的负担较小，这一点也备受好评。
报告以端侧AI为基础，提出了推动企业业务创新和规模扩张的战略。首先，端侧AI利用设备内部电力来运行AI模型，因此必须尽量降低电力消耗。在此背景下，可在低功耗下运行的半导体技术等预计到2028年将以年均40%以上的速度大幅增长，而高性能半导体则有望以电力限制相对较少的云端和数据中心等为中心扩大市场。
需要在“环境计算”（Ambient Computing）市场中寻找机会，即用户周边的信息技术（IT）设备自主学习用户的行为模式，从而自动提供所需服务。端侧AI出色的安全性能，有利于构建和利用按个人获取并分析数据的环境计算机环境，具有很高的应用价值。
由于是以小型AI模型为基础来运营服务，小型AI模型市场也有望正式扩大。小型AI模型预计将围绕智能手机、家电等搭载AI模型的各类端侧AI设备的需求，朝着提升输出结果质量的方向进行开发。
同时，利用端侧AI可以以即时向用户提供AI分析结果的形式，进一步拉近用户与AI模型之间的距离。这也是必须制定“可解释AI”技术管控方案，以减少用户困惑、强化AI模型运行稳定性的原因。
Lee Junki SamjungKPMG人工智能中心常务表示：“应围绕作为生成式AI应用新趋势崛起的端侧AI，着力扩展AI生态系统并获取更多使用场景（Use Case）”，“如果在充分发挥端侧AI优势的战略基础上，开发能够强化用户体验的服务，从而在AI市场中获得差异化竞争力并提升客户价值，将有望成为获取新业务潜力的契机”。
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。
