泳装照被“变成裸照”疯狂传播…起诉AI开发公司的美国女高中生

by Bang Jeil

Published 17 Oct.2025 15:58(KST)

高中男生在聊天室传播伪造裸照
起诉开发商和Telegram

随着利用人工智能（AI）制作的虚假裸照、即所谓“深度伪造”性犯罪受害案例接连发生，美国一名十几岁的女高中生向一家AI开发公司提起诉讼。17日，联合通讯社援引美国《华尔街日报》（WSJ）等媒体的报道介绍称，居住在美国新泽西州的一名17岁女高中生，已对AI生成软件“Cloth Off（克劳德奥夫）”的开发公司“AI/Robotics Venture Strategy 3”提起诉讼。该女生还表示，即时通讯应用Telegram通过自动化程序使用户可以接入Cloth Off，因此也将Telegram列为被告之一。

利用人工智能（AI）制作的虚假裸照，即所谓“深度伪造”侵害案例接连发生，一名美国十几岁女学生因此对一家AI开发公司提起诉讼。亚洲经济提供

根据《华尔街日报》的报道，这名女生在14岁时曾将自己穿着泳装的照片上传到自己的社交媒体账户。她称，一名与她同年级的男高中生利用Cloth Off将这张照片制作成虚假的裸照。据悉，同班部分男生还利用AI工具制作了多名女同学的虚假裸照，并在群聊中共享。

提起诉讼的这名女生表示，她生活在自己的假裸照可能在互联网上扩散的恐惧之中，并担心自己和其他女学生的照片会被用于Cloth Off的AI训练。她一方向法院请求，命令Cloth Off运营公司删除和销毁其在未获当事人同意情况下所持有的所有裸照，并禁止将相关图像用于AI模型训练。

尤其是女生一方主张，“此类图像生成属于儿童性虐待内容”，必须采取强有力的应对措施。与此相对，相关公司方面则辩称，此次事件违反了其AI软件使用条款，并表示：“无法处理未成年人图像，如若尝试，账号可能会被停用，我们也不会保存任何数据。”

非法网站也在利用Claudeoff链接制作儿童色情内容。对此，旧金山地方检察官David Chiu去年起诉了包括Claudeoff在内的16家主要深度伪造和裸体网站，并关闭了其中10余家。亚洲经济提供

与此同时，开发Cloth Off的公司总部位于英属维尔京群岛，据悉由居住在白俄罗斯的人员运营。女生一方认为，如果相关人员不到庭或不回应诉讼，法院有望下令禁止该软件在美国境内使用。

必读新闻

“月薪150万不如去美国年入5亿” 首尔大·KAIST人才纷纷收拾行囊 [科学家正在消失]①

据《华尔街日报》报道，在非法网站上也有将Cloth Off链接作为制作儿童色情内容工具加以利用的情况。对此，旧金山地方检察官David Chiu去年已对包括Cloth Off在内的16个主要深度伪造与裸照网站提起诉讼，并迫使其中10余家关闭。仍在继续对Cloth Off提起诉讼的Chiu检察官强调称：“在所有运营者承担责任之前，我们不会停止（诉讼）。”

日益增多的深度伪造性犯罪……嫌疑人六成为十几岁青少年

不仅在美国等海外地区，在韩国国内深度伪造性犯罪也呈上升趋势。根据本月10日国民力量党议员Jeong Seongguk议员办公室从警察厅获得的资料，截至今年8月，因深度伪造性犯罪被立案的嫌疑人数为936人，已超过前一年的682人。更令人担忧的是，其中60%的嫌疑人为十几岁青少年。与前一年相比，各年龄段中十几岁嫌疑人数几乎翻了一番。

今年截至8月，因深度伪造性犯罪被立案的嫌疑人数为936人，已经超过前一年的682人。更令人担忧的是，其中60%的嫌疑人是十几岁的未成年人。亚洲经济提供

按年龄段来看，十几岁占59.4%（556人），二十多岁占32.0%（300人），三十多岁占6.4%（60人），四十多岁占1.1%（11人），五十岁以上占0.9%（9人）。除占比过半的十几岁之外，其余各年龄段嫌疑人数几乎都增加了近3倍。二十多岁嫌疑人从2024年的107人增至2025年（截至8月）的300人，三十多岁嫌疑人从20人增至60人。四十多岁嫌疑人也从4人增至11人，五十岁以上嫌疑人从3人增至9人。考虑到这是截至8月的统计数据，预计到今年年底嫌疑人数还将大幅增加。

한글 기사 보기

本报道由人工智能(AI)翻译技术生成。