Kim Myeongju首任所长：“将积极推进国际协作”
深度伪造应对技术纳入讨论议程
英国仅有130人…人力等局限暴露
Kim Myeongju 人工智能（AI）安全研究所所长表示：“将确保我国的AI企业在走向世界时不受阻碍”，并称“将成为合作机构，而非监管机构”。
Kim 所长27日在京畿道板桥全球研发中心举行AI安全研究所成立仪式后会见记者时表示：“将通过国际协作讨论与AI安全相关的标准，并在能够提出我方意见的领域积极发声。”
他还表示，期待《AI基本法》在国会获得通过，希望今后该法律能够与欧洲联盟（EU）的《AI法》实现兼容。
Kim 所长近日出席了在美国旧金山举行的“国际AI安全研究所网络”成立仪式，迈出了全球联合的第一步。该网络由美国、欧盟、加拿大、法国、新加坡、日本等10个国家组成。
据Kim 所长介绍，该网络的主席国确定为美国，副主席国将于明年2月在法国巴黎举行的AI安全峰会上决定。
27日，在京畿道城南市盆唐区Global R&D Center举行的人工智能安全研究所开所仪式上，与会者正在合影留念。（自左起第四位）为个人信息保护委员会副委员长Choi Janghyeok、国家人工智能委员会副委员长Yeom Jaeho、科学技术信息通信部科学技术创新本部长Ryu Gwangjun、人工智能安全研究所所长Kim Myeongju。科学技术信息通信部提供
View original image韩国已同英国、美国、加拿大、新加坡、日本等5个国家承诺签署业务协定（谅解备忘录），并计划推动国家间技术、人力和政策交流的活性化。
目前AI面临的风险包括：▲技术局限（故障、幻觉、偏见）▲控制力丧失（自我复制、AI武器系统、超级智能）▲人类滥用（有害信息、网络黑客攻击、深度伪造）等。
Kim 所长表示：“在国际层面上，我们讨论了深度伪造和合成生成物的风险，并交流了水印、标注等证明由AI制作的相关技术”，“我国也已为应对深度伪造预留了明年预算，将据此开展相关的AI安全评估工作”。
当天，以AI安全研究所为核心，由国内产学研24家企业和机构参与的“AI安全联盟”也宣告成立。关于该联盟，Kim 所长解释称：“各家企业和大学都提出了自身能够承担的工作”，“今后将共享解决方案，避免安全监管成为障碍”。
不过，由于AI安全研究所作为韩国电子通信研究院（ETRI）附属机构设立，其局限性也随之显现。舆论认为，要巩固国际协作并对AI安全性提供周密支持，目前人力仍显不足。目前由ETRI派遣的人员为8人，计划在明年1月前增至18人，之后按30余人的规模运营。
英国方面早在去年就已设立AI安全研究所，人员总数超过130人。据评价，由于他们的年薪折合韩币高达2亿韩元，待遇优厚，因而更容易吸引优秀人才。
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。
