多部门30日研议“深度伪造应对方案”…亟需引入AI技术
实务团队集会研讨对策
须修改法律制度并引进新技术
明年拟投入2亿研发预算
“深度伪造性犯罪由于难以锁定加害者、且不特定多数人都有可能受害，正在加剧国民的不安。”（女性家庭部次官 Shin Youngsuk）
“为了营造健全的数字秩序，将不断扩大部门间协作。”（科学技术信息通信部第二次官 Kang Dohyun）
为制定应对引发社会公愤的深度伪造合成非法淫秽物的对策，科学技术信息通信部与女性家庭部举行了会晤。两部门次官于本月28日在首尔中区韩国女性人权振兴院进行了一个多小时的非公开座谈，就协作方案进行了讨论。座谈会后，Kang次官在接受《亚洲经济》采访时表示：“不仅是这两个部门，还将加强与相关部门之间的合作，并扩大技术和制度层面的支持。”
28日，科学技术信息通信部第二次官 Kang Dohyun（右）和女性家庭部次官 Shin Youngsuk（左）访问位于首尔中区的韩国女性人权振兴院数字性暴力受害者支援中心，与院长 Shin Bora 合影留念。 科学技术信息通信部提供
View original image深度伪造淫秽物整改要求激增4倍
随着人工智能（AI）技术全方位扩散，被称为深度伪造性犯罪的社会问题成为最大副作用之一。根据放送通信审议委员会的数据，截至上月底，要求整改深度伪造性犯罪影像物的案件达到6434件，同比增加4倍。
提交至数字性犯罪受害者支援中心（简称“迪性中心”）的深度伪造受害支援案件，也从2018年的69件激增至今年（截至8月25日）的781件，增加逾11倍。警方厅的统计显示，今年1月至7月共接到297起深度伪造性犯罪举报，在被立案的178名嫌疑人中，未成年人有131人，占比73.6%。总统尹锡悦也在本月27日的国务会议上指示，要连根拔除利用深度伪造实施的数字性犯罪，并要求采取强有力的应对措施。
30日相关部门召开工作协商会
要防止数字性犯罪受害，需要在预防、非法淫秽物的删除与拦截、嫌疑人处罚等方面提供法律和制度支撑，并推动技术开发。科学技术信息通信部、女性家庭部以及放送通信委员会、放送通信审议委员会、教育部、法务部、警方厅相关负责人将于30日召开工作协商会。
科学技术信息通信部和女性家庭部已从上月起开展应对深度伪造性犯罪的联合政策研究。两部门计划在年末前，与韩国智能信息社会振兴院、韩信大学产学合作团一道，制定数字性犯罪受害预防及保护方案。研究主要内容包括：▲修改《性暴力处罚法》 ▲为受害者提供实质性支援方案 ▲构建可对数字性犯罪非法内容进行搜索、访问限制、拦截和追踪的系统等。韩国女性人权振兴院院长 Shin Bora表示：“虽然是因为深度伪造案件才重新浮出水面，但数字性犯罪早已是十分严重的问题。”
用AI解决AI副作用……修法迫在眉睫
由人工智能技术引发的问题，看来也必须依靠人工智能技术来解决。科学技术信息通信部表示，为推动明年的深度伪造相关研究开发（Research and Development）项目，将投入共20亿韩元。迪性中心方面目前最需要的是构建基于人工智能的删除支援业务自动化系统。现阶段，中心工作人员需逐一确认存在问题的网址（URL），并以手工方式向各在线平台提出删除请求。提出删除请求的方式也因平台而异，日后还必须再次直接访问相关网址，确认是否已完成删除处理，流程十分繁琐。考虑到数字时代受害影像物迅速扩散的现实，亟需构建24小时监测受害影像物并发出删除请求的自动化系统。
![“月薪150万不如去美国年入5亿” 首尔大·KAIST人才纷纷收拾行囊 [科学家正在消失]①](https://cwcontent.asiae.co.kr/asiaresize/93/2026051914165468840_1779167814.png)
女性家庭部正以议员提案的方式推进修改《性暴力防治法》，以便不仅能删除非法拍摄物，还可删除受害者的个人身份信息。放送通信审议委员会将与Telegram、Facebook、X（原Twitter）等全球在线平台运营企业组建协商机制，请求其实施自律监管。放送通信审议委员会还将与首尔市签署业务协议，启动在24小时内删除深度伪造淫秽物的“热线”机制。放送通信委员会则表示，将开展法律层面的审查，拟在类似Telegram的群聊房间中也赋予删除非法拍摄物及防止其传播的义务。
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。
