“用AI脱衣”网站每月吸引2400万用户

by Koo Nari

Published 11 Dec.2023 11:20(KST)

当事人不同意也可能制作和传播裸体照片

在美国，利用人工智能（AI）给照片中女性“脱衣”的深度伪造（Deepfake）应用程序和网站的用户数量正在激增。

据彭博社当地时间10日报道，引用软件即服务企业Graphika的数据，仅在去年9月一个月内，就有2400万人访问了利用AI给照片中人物“脱衣”的深度伪造网站。

“深度伪造”是深度学习与“伪造”（fake）的合成词，指基于AI技术，将人脸等内容篡改得如同真实一般的图像或视频。

据Graphika称，与今年年初相比，9月在X（X，原Twitter）和Reddit等社交媒体上投放“AI脱衣”应用广告的链接数量增长了2400%。

Graphika分析称，这类应用和网站之所以如此受欢迎，是因为随着AI的发展，如今生成的“看上去很逼真的图像”比短短数年前高出许多。

深度伪造应用和网站会使用AI生成看似照片中人物已经脱掉衣服的图像。照片中的人物大多是女性。据称相当一部分应用甚至被设计成只能转换女性形象。

随着深度伪造应用和网站走红，人们越来越担心其被用于犯罪。原因在于，大多数情况下，这些平台在当事人既不同意也不知情的情况下，制作并传播类似裸体照的淫秽物品。

实际上，X上出现的一则广告宣称，用户可以利用AI生成他人的裸体图像再发回给当事人，公然鼓动性骚扰行为。

另一款相关应用则向YouTube支付广告费，使得搜索“nudify（脱光、剥光）”一词时，它的内容会优先展示。

利用深度伪造技术生成的美国前总统 Barack Obama。华盛顿大学供图

隐私保护专家担忧，随着AI技术发展，深度伪造软件正变得更易使用、效果更强。

数字权利倡导组织电子前沿基金会（Electronic Frontier Foundation）网络安全负责人Eva Galperin强调称：“普通人以普通人为对象实施这类行为的情况正在增多，这类事情正在高中生、大学生之间发生。”

谷歌就这一问题表示：“我们不允许露骨的性内容”，“我们已对相关广告进行了审查，正在删除违反我们政策的广告。”

Reddit发言人也表示：“禁止在未经同意的情况下分享虚假淫秽物品，经过调查，我们已封禁了大量域名。”

TikTok同样表示，已屏蔽“undress（脱衣）”这一关键词。

本报道由人工智能(AI)翻译技术生成。