[事事关心]大学再曝深度伪造性犯罪，AI威胁加速升级

View original image

在被称为“知识的象牙塔”的大学街，再次被确认出现了将女大学生脸部合成到裸体照片上的性犯罪物（深度伪造）并被共享的事实。据悉，这个自2020年起运营的某Telegram群聊参与者多达1200人，受害者大多是仁荷大学在校生或毕业生。群聊中毫无过滤地共享了受害者的联系方式、学号等个人信息，还上传了利用受害者声音制作的深度伪造音频文件，其中让她们说出“奴隶”“主人”等带有性意味的词语。

这一群聊的存在，是因为一名仁荷大学毕业生受害者从去年年底开始接连收到“在群聊里看到你，是你本人吗”的消息，才被世人所知。这名受害者随即向仁川弥邱忽警察署报案，今年2月学校层面又向仁川警察厅请求展开调查。然而包括群聊运营者在内的主犯至今连身份都尚未查明，理由是Telegram服务器位于海外，难以锁定相关人员。

最终，受害者只得亲自进入该群聊收集资料并提交给警方。随后，一名下载并传播受害者深度伪造照片的男性因违反《性暴力处罚法》被起诉并获刑1年，但仅止于此。Telegram参与者中又有1人被警方追加抓获，却未被追究刑事责任。因为对于以他人脸部、身体或声音为对象制作的影像物、视频物或音频物，只有在散布等目的明确的情况下才能予以处罚。出于个人持有目的制作深度伪造色情物、观看行为目前被排除在处罚对象之外。

实际上，对于深度伪造技术的恶意使用，几乎没有具体的应对方案。《关于促进人工智能产业发展及构建信任基础的法律案（人工智能基本法）》未能在第21届国会通过。在第22届国会中虽有6项相关法案被提出，但仍在搁置中。对《信息通信网络法》的部分修正案——其中包括在将利用深度伪造视频、音频等人工智能技术制作的信息发布到线上时必须加注水印的义务化规定——看上去同样前路漫长。

这与世界主要国家积极整顿与人工智能相关监管法令的动向形成鲜明对比。欧洲议会今年3月最终批准了在促进人工智能技术创新的同时，又保障安全与基本权利遵守的基本法案；美国方面，去年10月总统Biden签署了《关于具备安全性、保密性与可靠性的人工智能开发与利用的行政命令》。邻国日本在去年七国集团（G7）首脑会议上讨论了对生成式人工智能进行规制的必要性，中国也正在制定关于生成式人工智能服务的法律。

深度伪造视频不仅涉及数字性犯罪，还可能演变为侵犯肖像权、人格权、个人隐私以及名誉毁损等严重社会问题。今年上半年，广播通信审议委员会查获的、利用深度伪造技术制作的“性虚假影像物”就超过6000件，已达去年全年总量的84%。相对而言，2020年至2023年间与深度伪造犯罪相关的一审、二审判决共71件中，被判实刑的仅有4件，处罚力度微乎其微。

必读新闻

“黑色星期一趁低捡筹”……日野村看好“59万电子·400万海力士” 전망

• “战争时暴跌，如今又涨了”……单日飙升6%，资金蜂拥入银市的真正原因[周末Money]
• “有钱也享受不到”……真正“顶级0.1%”的世界 [奢华世界]
• “我们月薪也要破1000万了”……在“半导体效应”下大型电子部件企业绩效奖金飙升
• 高手早已盯上：“股价目标97万韩元” 如今只剩“上升行情” [周末Money]

考虑到技术发展速度，深度伪造极有可能进一步高度化、泛滥化。这也意味着数字性犯罪受害者人数可能呈几何级数增长。在为时未晚之前，亟须建立能够应对深度伪造的技术性、司法性以及社会性规制。

版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。