三星、Naver等称“将打造值得信赖的AI”……官民就安全性展开讨论
科学技术信息通信部举办“AI 可信与安全性大会”
包括Naver、Kakao、SKT在内7家公司共享落实进展
为推动安全且可信赖的人工智能（AI）开发，政府与民间携手合作。科学技术信息通信部于26日在首尔战争纪念馆召开“AI信任·安全性大会”，现场有国内代表性AI大型企业和初创企业、研究人员等200余人出席。
本次大会分享了与AI信任与安全性相关的技术和政策动向，并检查了今年政府支持研究成果的主要成效以及民间部门的执行情况。
人工智能领域世界级学者、蒙特利尔大学教授Yoshua Bengio在主题演讲中强调：“为了有效管理最前沿AI模型带来的风险，有必要在国内法与国际协定之间实现相互协调。”
他接着表示：“从科学层面看，AI模型的对齐与管控是重要议题，需要对可量化的AI模型风险进行评估，获取风险管理技术，为此应扩大政府支持，并发挥AI安全研究所的作用。”
KAIST AI研究院院长 Oh Hyeyeon 分享了国际社会AI霸权竞争的动向，并阐释了作为战略资产的AI的重要性。
当天活动上，今年5月参与“AI首尔企业承诺”的国内6家企业，分享了各自为开发安全、可信AI而制定的风险管理方案、技术研究及内部治理架构等执行情况。参与企业为三星电子、Naver、Kakao、SK电信、KT、LG AI研究院。
今后，这些企业也将继续深刻认识到自身提供的AI产品和服务所涉及的责任，并承诺进一步强化今后为确保信任与安全性所作的努力。
在大会上，韩国信息通信技术协会（TTA）介绍了在大量参与者攻击尝试分析过程中识别出的7个领域主要风险及多种攻击手法（拒绝服务失效化、诱导混淆）。主要风险包括错误信息、偏见及歧视、非法内容生成与信息提供、“越狱”、网络攻击、对个人权利的侵害以及一致性等。
科学技术信息通信部计划利用红队挑战结果，构建生成式AI安全框架体系，并在国家层面支持预先识别生成式AI模型的潜在风险，从而确保其信任度与安全性。
当天还举行了“第二届AI信任性大奖”颁奖仪式，旨在向整个业界扩散AI信任性的重要性与相关认知，并支持对优秀AI产品和服务的宣传。
科学技术信息通信部信息通信政策室长 Song Sanghun 表示：“一方面将强化政策支持，使以民间自律为基础的负责任AI开发与应用文化得以扩散，另一方面将为应对尖端AI带来的潜在风险而成立AI安全研究所，在国家层面展开系统性应对。”
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。
