担忧“K女团淫秽照”泛滥…AI助长照片被擅自盗用

by Bang Jeil

Published 27 Jun.2023 13:53(KST)

女团照片可被任意下载
或被用于牟利与制作淫秽内容
经纪公司称将考虑就擅自盗用采取法律措施

在大量盗用K‑Pop女团成员照片进行训练的人工智能模型数据在网上扩散的情况下，由于可能被用于牟利或制作淫秽物品，经纪公司正在考虑应对方案。

据业界和法律界等方面27日消息，在生成式人工智能模型共享网站CivitAI上，用户上传了大量利用NewJeans、Le Sserafim、IVE、aespa、TWICE等人气K‑Pop女团成员图像进行训练的数据。

盗用K-pop 女子组合成员形象制作的人工智能模型。 [图片来源=人工智能模型共享网站 Sivit 提供]

网站上发布的文件，是可应用于Stability AI去年以开源形式公开的图像合成人工智能“Stable Diffusion”，用来生成深度伪造图像的人工智能模型。

Stable Diffusion的模型大致分为两类：决定整体画风的核心模型“Checkpoint”，以及决定人物脸部和姿态等的辅助模型“LoRA”（低秩适配，Low‑Rank Adaptation）。

其中，主要用于制作真实人物深度伪造图像的LoRA模型容量仅为几十至数百兆字节，制作相对容易，因此在CivitAI等网站或线上社区被轻易共享。

与“ChatGPT”等高性能对话式人工智能不同，Stable Diffusion的特点是普通人也可以在个人电脑上离线运行。

在 YouTube 上搜索“AI 造型册”时出现的短视频。YouTube 提供

近期甚至出现了名为“WebUI”的界面，使得不懂编程的人也能轻松使用。只要拥有配备数十万韩元价位普及型图形处理器（GPU）的个人电脑，再加上一点相关知识，任何人只需点击一次就能下载人工智能模型，在家中一两分钟内生成高分辨率的偶像合成照片。

问题在于，这类人工智能模型可能被用于牟利或制作淫秽物品。YouTube上以图像生成人工智能制作的女性图像为内容的“AI画册”视频十分盛行，部分用户还在赞助平台Patreon上出售人工智能生成的色情内容。

K‑Pop业界也在思考如何应对利用所属艺人形象制作并传播人工智能模型的问题。

国内某大型娱乐经纪公司相关人士表示：“我们已经注意到这一情况”，“如果利用生成式人工智能制作的图像侵害了艺人的名誉或肖像权，我们将要求删除相关作品，并在必要时考虑采取法律行动”。

另一方面，如利用侵害艺人或网络红人肖像权的人工智能模型创作作品并从中获利，相关责任人可能承担民事和刑事责任。

根据《反不正当竞争法》第2条规定，“未经许可使用在国内广为人知且具有经济价值的他人姓名、肖像、声音、签名等可识别他人的标识，从而侵害他人经济利益的行为”被视为不正当竞争行为。

《性暴力处罚法》第14条之2也规定，若在当事人意愿相违背的情况下，传播“以他人脸部、身体或声音为对象的影像物、视频物、音频物”以及据此制作的“编辑物、合成物、加工物、复制物”，可处以5年以下有期徒刑或5000万韩元以下罚金。

本报道由人工智能(AI)翻译技术生成。