[独家] AI时代的阴影…“深度伪造”性犯罪6年激增20倍

by Oh Jooyean

Published 12 Feb.2025 08:28(KST)

Updated 25 Apr.2025 09:52(KST)

open/close

去年数字性犯罪受害者首次超过1万

“如果不照我说的做，就把你的裸照（制作后）散布出去。”

像这样以散布引发性羞耻感的视频为要挟，进行性剥削，或者利用深度伪造技术制作“假视频”上传到互联网的数字性犯罪正在大幅增加。

数据显示，去年以这种方式遭遇数字性犯罪侵害的人数首次突破1万人。这是政府自2018年开始统计数字性犯罪受害者以来的最大规模。

尤其是从受害类型来看，相比于未经同意拍摄身体的非法拍摄物，由深度伪造等合成物导致的受害在6年间暴增20倍，格外引人关注。

据女性家庭部和韩国女性人权振兴院11日消息，截至2024年12月底，在“数字性犯罪受害者支援中心（简称‘支援中心’）”获得支援的受害者为1万305人，比前一年（8983人）增加14.7%。自2018年4月女性家庭部为防止数字性犯罪受害扩散而设立支援中心以来，受害者人数首次突破1万名。与开设当时的1315人相比，6年间增加了9倍。

支援中心开展数字性犯罪受害者咨询、受害视频删除支援、与侦查机关对接等综合性工作。其中，删除包括深度伪造非法拍摄物在内的各类性剥削物是其主要业务。不仅受理后删除受害视频，对儿童和青少年性剥削物等也通过监测先行删除。若非法视频已经被散布，还会与受害支援机构联动，提供侦查、法律、医疗等方面的支援。

由此，去年提供的咨询件数从2018年的4787件增加到去年的2万8173件，增长近6倍；在成人网站和社交媒体上删除的受害视频，在同一期间从2万8879件增加到30万237件，增长超过10倍。

也就是说，为了维护他人的“被遗忘权”，去年平均每天删除822.5个非法视频。由于性犯罪受害视频不断被生产，即便持续删除，删除件数仍在逐年增加。截至目前，被删除的非法视频累计已超过120万件（121万1797件）。

当性犯罪受害视频被散布后，支援中心会向各个平台提出删除请求，并协助侦查机关进行证据收集。去年与侦查、法律联动提供的支援件数为3826件，比6年前（203件）增加约19倍。分析认为，随着支援中心与检察厅、警察厅之间热线的运营，这一数字大幅上升。特别是，当从侦查机关接到受害者5人以上的集体案件时，支援中心也会对相关视频进行删除。近期相关犯罪增加，与有关机构的联动也愈发频繁。

近期备受关注的一点，是因合成、编辑造成的数字性犯罪受害急剧增加。

受害者反映最多的受害类型（可多选）是“担忧被散布（25.9%）”和“非法拍摄（24.9%）”，但增长速度最快的类型是“合成、编辑”。若从视频生成方式来看，非法拍摄受害件数在6年间增加了6倍，而合成、编辑受害件数则暴增20倍（从69件增至1384件）。

合成、编辑受害在整体中占比为8.2%，但随着数字环境变化、深度伪造技术扩散以及生成式人工智能的出现，今后相关受害预计将在更多样的形式上不断增加。

在这种情况下，能够迅速、直接救济数字性犯罪受害者的方法就是“删除视频”。深度伪造技术越发达，每年需要删除的视频就越多，但人员补充却远未达到需求。

女性家庭部曾表示，将在去年增加支援中心预算，补充删除深度伪造性剥削物的人员，并实现中心24小时运营。为此，国会女性家庭委员会曾将支援中心预算在政府案（32亿韩元）基础上增加47亿韩元并通过表决，但最终未能通过国会预算决算特别委员会审议而告吹。相反，今年支援中心必须以32亿韩元的预算运营，比去年（34亿韩元）还减少了2亿韩元。