Naver会见“AI四天王”之一Bengio…加强“安全AI”合作

by Choi Yuri

Published 04 Nov.2024 17:10(KST)

Updated 05 Nov.2024 09:29(KST)

open/close

Naver率先提议会面
商讨“AI安全性”合作方案

被视为世界级人工智能学者的蒙特利尔大学教授Yoshua Bengio，4日在首尔瑞草区三星电子瑞草大厦举行的“三星电子AI论坛”上出席并进行“深度学习”相关演讲。姜珍亨记者aymsdream@

Naver与被誉为人工智能（AI）“四大天王”之一的世界级学者Yoshua Bengio加拿大蒙特利尔大学教授会面。双方就AI安全性的国内外议题进行了交流，并讨论了今后的合作方案。

据IT业界5日消息，Ha Jungwoo Naver Cloud AI Innovation中心负责人和Lee Hwaran Naver AI Safety Lab负责人，近日与为出席三星AI论坛而访韩的Bengio教授会面。据悉，此次会面是由Bengio教授方面率先提议。

Bengio教授与Toronto大学教授Geoffrey Hinton、New York大学教授Yann LeCun一起，是开创深度学习的世界级学者。三人于2018年共同获得有“计算机界诺贝尔奖”之称的图灵奖，其贡献得到认可。业界将他们三人加上Stanford大学教授Andrew Ng并称为AI“四大天王”。其中，Bengio教授因不断警示AI带来的副作用，主张有必要进行管控，被视为持审慎立场的代表人物之一。他参与了由英国政府主导的“AI安全项目”，正在开发用于识别AI风险的AI模型。

Bengio教授向Naver提出会面建议，是因为Naver正在构建与AI安全性相关的内部体系，并将其实际应用于开发。据传，他对除学界研究的理论之外，产业界实际运行的AI安全性体系表现出浓厚兴趣。Naver今年6月曾公开名为“ASF（AI Safety Framework）”的AI安全性实践体系。这一体系旨在于AI系统开发和部署的所有阶段，识别、评估并管理AI的潜在风险。Naver计划在此基础上，结合“主权（Sovereign）AI”的文化多样性，对ASF进行改进。

在本次会面中，双方就AI安全性的国内外议题进行了交流，还就开放二进制模型（如Meta的Llama那样，仅公开可执行文件而不公开源代码的模型）的扩散、AI Agent的出现等需要开展AI安全性研究的领域交换了意见。对于本月在韩国政府主导下即将成立的AI安全研究所，双方也表现出兴趣。Ha负责人表示：“我们就韩国AI安全研究所的筹备情况，以及Naver看待AI安全的视角进行了交流，并在大框架下探讨了合作方向。”

以此次会面为契机，今后在AI安全性相关研究方面展开合作的可能性正被提及。Bengio教授今年7月与韩国科学技术院（KAIST）共同设立了AI研究中心。Naver Cloud则与Intel、KAIST共同运营AI联合研究中心等，已具备研究层面的对接点。作为与AI安全研究所一道推进AI政产学国际联合研究的“国家AI研究枢纽”，Naver Cloud正以韩国合作机构身份参与其中。