[是是非非]向深度伪造犯罪宣战

几天前，上初中的女儿吃饭时也一直放不下手机，手指在屏幕上飞快滑动，我便问她在做什么。听到我语气略微提高，女儿把手机给我看，说自己正在把此前上传到个人社交媒体（SNS）上的所有自己和朋友的照片全部删掉。她还给我看了所谓“被盯上的学校”名单。女儿表示，即使把账号改成非公开模式，也有传言说有人会先黑进账号窃取照片，再用深度伪造技术进行二次制作，最后拿到Telegram聊天室里出售，因此感到十分害怕。

View original image

过去，深度伪造性犯罪问题多集中在以歌手、演员等女艺人为对象的案例上。但如今，出现在深度伪造视频中的对象不仅是我们身边的邻居，甚至还包括未成年家人。随着人工智能（AI）等技术的发展，任何人都可以轻易制作深度伪造视频，也就意味着任何人都可能成为受害者。对于有女儿的父母来说，这无异于一种恐怖。

甚至还有海外安全公司发布报告称，韩国是全世界对深度伪造淫秽内容最为脆弱的国家。根据美国网络安全公司Security Hero近日发布的《2023年深度伪造作品现状》报告，对去年7月至8月期间，10个深度伪造色情网站以及YouTube、Vimeo、Dailymotion等视频平台上85个频道上传的9万5820个视频进行分析后发现，出现在深度伪造作品中的人物中，有53%为韩国国籍，比例最高。尤其是在被用于制作深度伪造淫秽物的全球前10名人物中，有8人是韩国人。报告指出：“韩国是深度伪造淫秽物的最大攻击目标国家”，“尤其对露骨性质的深度伪造作品更为脆弱”。

从2019年的“N号房”事件，到最近所谓的“熟人凌辱群”，这些与社交媒体相关的性犯罪者所利用的平台大多都是Telegram。尤其是在今年5月，还发生了首尔大学毕业生利用包括女校友在内的数十人的照片制作非法合成物，并在Telegram上传播的案件。此案被称为“首尔大N号房”，女性受害者超过60人。

因深度伪造引发的犯罪受害问题并非韩国独有。最终，法国当局于上周逮捕并起诉了Telegram创始人Pavel Durov，因为Telegram已沦为数字性犯罪视频的主要流通渠道。指控理由是其未阻止平台用户的违法行为，并无视法国司法部门的协助请求。Telegram至今从未回应韩国政府就性犯罪相关调查所发出的协助请求。法国总统Emmanuel Macron强调称：“在法治国家，自由必须在法律框架之内得到保障，无论是在社交媒体上，还是在现实生活中。”

在美国，大选在即，利用人工智能（AI）精细图像生成能力制作的假照片迅速扩散，正在加剧选举混乱。既有伪造的假照片显示美国流行歌手Taylor Swift及其粉丝似乎在表达对共和党总统候选人、前总统Trump的支持，也有数十张身着比基尼的漂亮女性照片同样被盗用，出现在假冒的社交媒体账号上。

必读新闻

“黑色星期一趁低捡筹”……日野村看好“59万电子·400万海力士” 전망

• “战争时暴跌，如今又涨了”……单日飙升6%，资金蜂拥入银市的真正原因[周末Money]
• “有钱也享受不到”……真正“顶级0.1%”的世界 [奢华世界]
• “我们月薪也要破1000万了”……在“半导体效应”下大型电子部件企业绩效奖金飙升
• 高手早已盯上：“股价目标97万韩元” 如今只剩“上升行情” [周末Money]

从词典意义上看，“事实”指“实际发生过的事情”本身，“真相”则指“没有掺杂虚假的事实”。然而，现在已进入一个可以非常轻易且低成本地捏造自己从未说过的话、从未做过的事，也就是捏造“事实”的时代。如果事实消失，真相也将随之崩塌。这正是为什么要求赋予平台删除违法内容的义务并强化其责任的呼声不断高涨的原因。

View original image

版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。