首尔市用AI打击“数字性犯罪”…从举报到删除仅需6分钟

by Kim Youngwon

Published 21 May.2025 11:15(KST)

Updated 21 May.2025 15:11(KST)

open/close

AI取证并提交删除举报
邮件可自动生成7种语言

首尔市率先在全国开发出一套系统，由人工智能查找在网上传播的数字性犯罪视频，并自动协助提交删除申诉。

首尔市21日表示，将正式运行这一“人工智能自动删除申诉系统”。市政府在2023年与首尔研究院合作，曾经全国首次开发出“数字性犯罪人工智能删除支援技术”。首尔数字性犯罪安心支援中心利用该技术，实行24小时非法视频监测和删除支援。

使用“AI自动删除举报系统”自动生成删除请求邮件的示例图片。首尔市提供

人工智能自动删除申诉系统由人工智能24小时不间断检测受害视频，随后自动取证并生成报告，再自动生成向相关网站提出删除请求的电子邮件。完成的申诉邮件由删除支援官最终确认后发送。通过这一流程，从发现非法视频到向相关网站提交删除申诉所需时间，将从以往的2小时30分至3小时缩短为6分钟。

自动取证报告功能会自动提取文本、图片、网址等内容核心信息，并将其转换为韩文文档（HWP）格式保存，从而可作为今后侦查或司法程序所需的证据资料加以利用。

近期，由于将服务器设在海外的网站上传受害视频的案例不断增多，申诉电子邮件也将被生成为包括英语、中文、日语、俄语在内的7种语言版本。

首尔数字性犯罪安心支援中心在过去3年间，截至今年3月共为3650名受害者提供了支援，累计支援案件达6万4677件。

首尔市女性家庭室长Kim Seonsun表示：“首尔市在全国率先引入基于人工智能的监测技术之后，又进一步引入由人工智能自动完成删除申诉的技术，预计将大幅缩短从检测到提交删除申诉的整体耗时。”她还表示：“今后也将尽最大努力，打造一个让儿童和青少年免受数字性犯罪侵害的安全首尔。”

本报道由人工智能(AI)翻译技术生成。