政府推动为AI作品引入“水印”…提升AI信任度与安全性

by Kang Nahum

Published 25 Oct.2023 10:14(KST)

政府正推进将对人工智能（AI）生成结果物的“水印引入”制度化。其宗旨是在深度伪造、假新闻等人工智能生成内容可能带来的负面影响发生前，将其降到最低。

科学技术信息通信部部长 Lee Jongho 于25日在首尔江西区LG科学公园举行的“第4次人工智能最高位战略对话”上公布了这一计划。

Lee部长表示：“人工智能作为数字深化时代的核心技术，确保其可信性和安全性比什么都重要”，“政府将着力构建包括支持民间自主开展人工智能可信性检测和认证在内的人工智能伦理生态体系基础，并逐步建立起适当的监管体系”。

据此，政府将推进人工智能伦理与可信性保障推进计划。该计划包括：▲支持民间自主确保人工智能伦理与可信性 ▲构建引领世界的人工智能伦理与可信性技术及制度基础 ▲在全社会扩散负责任的人工智能意识等，旨在把国家打造成人工智能伦理与可信性的模范国家。

政府在细化推进课题中提出，将对人工智能生成结果物实行“水印引入制度化”。其目的是预防深度伪造、假新闻等人工智能生成物带来的副作用，并保护原始内容的著作权。政府计划在明年第一季度编制对国民生命、身体安全及基本权利保护产生重大影响的“高风险人工智能”解读手册，并在此基础上完善相关制度。

不过，目前尚未确定在内容上以何种方式标注水印。有观点认为，与其采用肉眼可见的标记，不如采用便于机器确认人工智能生成内容的方式。

政府还计划制定并扩大适用于生成式人工智能基础服务等各领域的指南，并从下月起推进民间自主可信性检测和认证。尤其是将在人工智能业务中选定部分从事高风险人工智能开发和实证项目的企业，于今年12月推进试点认证。

此外，为应对人工智能本身所包含的偏见性、不透明性等技术局限以及人工智能故障等潜在风险因素，政府计划从明年起新启动确保可信性的相关技术开发项目。预算为在截至2027年的3年间投入220亿韩元。

另一方面，当天的最高位会议上，Naver、Kakao、SK Telecom、KT、LG AI研究院等代表国内人工智能产业界的企业人士出席，就人工智能可信性检测和认证必要性等议题展开了讨论。

LG AI研究院部门长 Kim Youcheol 以“为落实人工智能伦理原则所做的企业努力”为主题进行了发表。随后，与会者围绕三大议题展开讨论：▲为在人工智能产业发展与可信性保障之间取得平衡而推进民间自主检测与认证的方向 ▲为提升超大规模·生成式人工智能可信性所作的自发努力 ▲为扩散人工智能伦理意识并引领全球规范所提出的建议。