即便有20万次浏览也难以追究法律责任
死者名誉毁损罪缺乏具体处罚规定
与深度伪造性犯罪不同,监管存在空白
亟需完善符合AI时代的制度

临近三一节,丑化独立运动家的生成式人工智能(AI)视频不断扩散,引发的争议日益扩大。然而在现行法律体系下,对制作人进行刑事处罚被认为并不容易。


27日,Sungshin女子大学教授 Seo Kyungduk 通过社交媒体表示,“上传到TikTok的金九先生照片上,配有贬低外貌的嘲讽性文字”。

上传到TikTok的嘲讽金九并颂扬李完用的视频画面。Seo Kyungduk Facebook供图

上传到TikTok的嘲讽金九并颂扬李完用的视频画面。Seo Kyungduk Facebook供图

View original image

相反,他指出,在典型亲日人士李完用的照片上,却同时发布了带有颂扬意味的表达。Seo教授表示:“临近三一节发生这样的事情,令人惋惜”,“据专家称,以现行法律很难对其进行处罚”。他接着强调:“通过网友的积极举报,阻止视频曝光十分重要”。


与此同时,还发现大量嘲弄柳宽顺烈士的帖子。此前,最近在社交媒体TikTok上,出现了大量嘲弄柳宽顺烈士的生成式AI视频。相关视频中设置柳宽顺烈士对日本国旗表达爱意,或做出不现实行为的场景等,据悉部分视频的播放量已超过20万次。


警方已经获悉这些帖子,但据悉尚未着手进行立案前调查。立案前调查是判断是否转为正式侦查的程序。最大障碍在于现行法上缺乏处罚规定。首先,依据《大韩民国刑法》有关死者名誉毁损的刑法第308条(死者名誉毁损罪),仅在“指摘虚假事实”的情况下,才可处以2年以下有期徒刑或拘役,或500万韩元以下罚金。然而,法律界解读认为,如本案这样在未指摘具体事实的情况下,仅停留在恶毒嘲讽或丑化的情形,难以符合构成要件。

此前最近在社交媒体TikTok上,出现了大量嘲弄柳宽顺烈士的生成式人工智能视频。TikTok提供

此前最近在社交媒体TikTok上,出现了大量嘲弄柳宽顺烈士的生成式人工智能视频。TikTok提供

View original image

此外,侮辱罪(刑法第311条)规定,当众侮辱他人的,可处以1年以下有期徒刑或拘役,或200万韩元以下罚金,但其保护对象仅限于“在世人物”,不适用于已故者。依据《信息通信网法》的名誉毁损规定,对死者的单纯嘲弄同样难以适用。


归根结底,目前除了由放送通信审议委员会向平台运营方请求删除视频,并寄望于平台的自律监管之外,几乎没有其他可以立即实施的制裁手段。在此背景下,海外早已就历史人物形象被滥用的问题展开讨论。去年10月,OpenAI方面从源头上禁止利用马丁·路德·金牧师形象生成视频。



这是因为侮辱性内容扩散,给遗属带来了持续伤害。相反,在韩国国内,立法讨论主要集中在防止深度伪造性犯罪方面。增设死者侮辱罪的刑法修正案虽已提出,但与生成式AI滥用相关的具体立法讨论仍停留在初级阶段,预计今后相关争议仍将持续。


本报道由人工智能(AI)翻译技术生成。

版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。

不容错过的热点