受害者多达60人 “首尔大N号房”警钟大作…非法淫秽内容仅删2%
滥用“深度伪造”技术…用熟人照片制作性爱视频
过去两年整改数量激增4倍
本人难以及时发现…“须加强与外国合作”
两名利用首尔大学后辈的面部制作并传播非法淫秽物品的男性已被警方拘留。他们将社交媒体上上传的熟人照片进行合成，制作出仿佛由熟人出镜的非法淫秽物。如此制作的淫秽物被分享给了超过1000人。
由于犯罪中使用了Telegram，这起被称为“首尔大N号房”的案件，与既有的N号房事件不同之处在于，它是一种利用深度伪造技术实施的新型数字性犯罪。深度伪造（Deepfake）是“深度学习（deep learning）”与“伪造（fake）”的合成词，指基于人工智能（AI）的人体图像合成技术。不仅被用来将熟人照片合成到淫秽物中实施性犯罪，也被用作操纵政治人物等名人的言行、散布虚假信息的工具。
“本人或熟人举报”仅占10%出头
深度伪造犯罪开始受到社会关注是比较近几年的事，相关处罚法律出台至今还不到5年。2020年，作为新型数字犯罪的深度伪造视频大量出现，相关处罚法随之引入。根据《性暴力处罚法》第14条之2（虚假影像物等的散布等），以散布等为目的，违背对象者意愿制作足以引起性羞耻感的淫秽物者，处5年以下有期徒刑或5000万韩元以下罚金。
尽管如此，深度伪造性影像物依然难以举报和处罚。由于社交媒体、门户网站等线上发布的各种照片都可能被用于犯罪，当事人往往在毫不知情的情况下就成了受害者。此次曝光的首尔大案件中，社交媒体上上传的照片和聊天软件的个人资料照片等，也是在受害者不知情的情况下被用于犯罪。
制作方式也越来越简单。只要支付约5万韩元的委托费用，任何人都可以轻易制作视频或照片。最近还出现了可以快速生成深度伪造视觉内容的手机应用程序（App）。性犯罪专业律师Shin Jinhee表示：“制作深度伪造性影像物的方式，随着技术发展变得越来越简单、多样”，“任何人都可以轻易接触，极有可能被用于犯罪”。
即便深度伪造犯罪激增，受害者或熟人亲自发现视频的情况仍然罕见。根据共同民主党议员Ko Minjung议员室通过广播通信审议委员会（简称“放审委”）获得的资料，“性影像物整改要求件数”从2021年的1913件增至2023年的7187件，两年间增加近4倍。然而同期通过“投诉”受理的仅有1874件，占整体的14.7%。相反，通过放审委自有监测发现的有1万693件，占整体的84.3%。
放审委相关人士表示：“即使受害者的脸部或身体被制作成深度伪造视频在网上流传，很多人也根本没有察觉”，“虽然我们全年24小时不间断监测，但要查出并处罚所有淫秽物，仍然非常困难”。
删除率仅“2%”…对海外服务器无处置权
即便发现非法淫秽物并意识到受害事实，也无法随意删除相关视频。关于互联网信息的处置适用“属地原则（将法律适用范围限定在本国领域内）”，对于存放在海外服务器网站上的视频，包括放审委在内的韩国国内机构无权要求删除。取而代之的是，在国内通过对相关网站实施“访问封锁”来阻断对视频的访问。但只要更换IP地址就能观看，如不彻底删除视频，还会引发二次伤害，其局限性十分明显。
放审委在其下设立“国际协作团”，与海外相关机构合作，积极要求采取删除措施。然而删除比例却非常低。查看最近4年（2020年6月25日至2024年4月30日）对性虚假影像物的整改结果，删除比例仅为2.3%。
专家指出，随着全球对“深度伪造色情”等非法淫秽物的警觉性不断提高，应当唤起对非法淫秽物问题的共识，并持续推进政府间合作。加川大学法学系教授、个人信息专家协会会长Choi Kyungjin表示：“最现实的办法，是通过政府间合作，就深度伪造色情问题形成问题意识和共识，从而促使各国制定相关法律”，“在美国、欧洲等重视言论自由的国家，最近也开始出现对非法影像物进行规制的必要性。应当最大限度地利用这一趋势”。
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。
