“深度伪造致受害者难以恢复日常生活”……平台与人工智能企业义务或将加强

by Kim Bokyung

Published 12 Sep.2024 19:05(KST)

韩国通信委员会与广播通信审议委员会召开“应对深度伪造”讨论会
下个月制定综合对策…推进法律与制度完善
开发AI识别水印…强调“精确监管”

“站在保护儿童的教育一线立场上，我认为即便人工智能（AI）技术的发展速度稍微慢一点，也必须在安全的前提下推进。三岁养成的坏习惯会跟到八十岁，其中最典型的就是‘深度伪造’。”

Busan市教育厅训导官 Lee Sangryong 12日来到首尔，为出席在首尔木洞放送会馆举行的“深度伪造应对专家讨论会”。为期2小时的讨论会上，留给他的时间只有短短3分钟。他在说明Busan市针对深度伪造性犯罪的对策时，最后发表了上述一番话。

在Busan市，不仅面向学生，还针对教职员工和家长开展预防深度伪造性犯罪的教育。本周被定为预防教育特别周，以此提高警觉性。被评价为比其他地区更早采取先发制人应对措施的Busan教育厅，还与放送通信审议委员会签署了数字性犯罪应对业务协议，这是地方教育厅中首例。

跨部门工作组力争10月前拿出对策

深度伪造是随着人工智能（AI）技术发展而显现的典型社会问题，也是其代表性弊害和副作用。Gachon大学教授 Choi Kyungjin 指出：“如今任何人都可以轻而易举、无需成本、并且极为精细地制作深度伪造淫秽视频”，“这会毁损受害者人格，使其无法完全恢复日常生活”。

首尔数字性犯罪安心支援中心主任 Moon Gihyun 表示：“受害者因为担心有人看过自己的视频，甚至不敢去学校，也不敢踏出家门。”他接着说：“数字性犯罪很难明确谁是加害者和传播者，即便删除了视频，也无法预知何时会再次被二次传播。”

问题在于，受害者中每10人就有3人是十多岁的青少年。按年龄段分析受害情况，10多岁受害者占比为36.3%，为所有年龄段中最多；加害者中10多岁（31.4%）也最多。分析认为，这是因为10多岁青少年接受AI技术的速度较快，往往出于好奇或恶作剧动机开始制作、传播深度伪造非法视频。

深度伪造性犯罪涉及预防教育、加害者惩处、受害者保护、在线平台的社会责任、AI生成内容识别技术开发等多个领域。为此，由相关政府部门参与的跨部门工作组已经成立，计划在下月前出台综合对策。

参与跨政府工作组的放送通信委员会与放送通信审议委员会、观众媒体财团共同主办了本次讨论会。作为讨论嘉宾出席的放送通信委员会数字有害信息应对科科长 Kim Wooseok 表示：“将通过完善法律，把不仅删除、屏蔽线上非法视频，也一并删除、屏蔽相关个人信息的方案纳入其中。”

此外，主要互联网运营商定期提交载明删除、屏蔽非法拍摄视频等内容的“透明度报告”，放送通信委员会计划强化该报告的内容，并引入对虚假编写报告进行处罚的机制。

推动引入AI生成内容水印

放送通信委员会正在推进引入AI生成内容水印制度。当用户将AI生成内容上传至网站或社会关系网络服务（社交媒体）时，由在线平台企业开发相关技术，在内容中加入可供识别的标记。AI技术开发运营方也必须制定方法，使AI生成内容可以被识别为AI作品，并正在研究对违反者进行处罚的规定。在讨论会上，还有意见认为“有必要禁止规避或破坏水印标记的行为”。

Kim科长表示：“也有人主张，这类监管可能会削弱娱乐等领域的创作意愿”，但同时强调，“可以通过总统令，对AI生成内容的使用目的进行分类加以区分”。

专家们一致认为，鉴于AI技术已经深度融入日常生活，应当通过“精准监管”来应对，而不宜采取损害言论自由的一边倒强硬规制方式。

Choi教授称：“需要准确掌握问题的严重性和危害程度，并据此建立能够精准指向问题的监管体系。”他还表示：“也要营造环境和氛围，促使在线平台运营商积极开展自律监管。”