平台若不履行阻断深度伪造犯罪内容传播义务将被处以罚款
政府联合工作组发布应对深度伪造性犯罪方案
科学技术信息通信部与广播通信委员会强化平台责任
扩大监测与删除支援预算和人力
政府为应对深度伪造性犯罪，将推进针对国内外平台企业的多项监管措施。
深度伪造应对泛政府工作组（TF）于6日发布了由相关部门联合制定的《加强应对深度伪造性犯罪方案》。
近期，随着生成式人工智能（AI）技术的普及，以及Telegram等封闭式平台的扩散，以10至20多岁人群为中心的深度伪造性犯罪已上升为社会问题。
为此，由国务调整室、教育部、法务部、国防部、科学技术信息通信部、广播通信委员会、女性家庭部、警察厅等组成的泛政府工作组已成立并制定了应对方案。
方案包括实施预防和教育以阻断深度伪造性犯罪物的生成，通过平台监管防止性犯罪物流通，以及对受害者的支援和对加害者的处罚等综合内容。
其中，科学技术信息通信部和广播通信委员会将加强对被指为非法性犯罪物传播温床的平台企业的监管。
一直以来，Telegram等未在韩国设立营业场所的海外平台处于国内法效力难以触及的监管盲区。相对而言，NAVER、Kakao等国内平台，以及Google等在韩国设有营业场所的海外平台，则依照相关法律接受管理。
6日，政府深度伪造应对跨部门工作组委员长 Kim Jongmun（国务调整室国务第一次长）在首尔钟路政府首尔办公大楼发布加强应对深度伪造性犯罪的联合对策。记者 曺庸俊
View original image从平台的主要法定义务来看，首先在《信息通信网络法》中，规定了指定青少年保护及防止非法拍摄物流通等负责人、禁止并删除淫秽物等非法信息的流通、提交透明度报告、提交相关物品和文件等义务。
《电气通信事业法》中则明确了事业申报、防止非法拍摄物等流通的措施，以及履行技术性、管理性措施义务等内容。
政府决定积极解释国内法，推进对包括Telegram在内的国内外平台经营者的监管。
尤其是，政府将积极解释为：向不特定多数人分发开放频道接入链接和密码、诱导其接入的行为，也属于提供或媒介青少年有害物，以及属于非法拍摄物等的流通。并以此为依据，对经营者实施监管。
广播通信委员会将把Telegram解释为青少年有害物的提供·媒介者，要求其提交与青少年保护负责人相关的资料并履行负责人指定通知，发出属于国内代理人指定义务对象的通知，以及下达整改命令等义务。如不履行上述义务，将采取罚款等制裁措施。
对于NAVER、Meta等既是平台经营者又是增值电信业务经营者的主体，如未履行防止非法拍摄物流通的义务，将积极施加整改命令和罚款等法律制裁。
同时，将通过修改《信息通信网络法》强化透明度报告的内容，计划要求平台每年提交防止非法拍摄物等流通的努力情况、举报和删除的处理结果、负责人指定情况等。如平台经营者草率或虚假提交透明度报告，将新增对其处以罚款的条款。
对于上传性虚假影像物等数字性犯罪物的发布者，将推进中止其服务使用、注销账号等制裁措施。
广播通信委员会和女性家庭部将通过增加监测人力、引入基于AI的新技术等方式，集中开展对海外社交网络服务（SNS）的监测，并着手预防性犯罪。
广播通信审议委员会不仅将与国内门户网站和全球平台企业建立协商渠道，也将与未在韩国设立营业场所的平台建立协商渠道。去年9月，广播通信审议委员会与Telegram建立了热线并开展实务协商，取得了一定成果。
科学技术信息通信部将运营“AI伦理与可信性论坛”，引导企业负责任地利用AI，例如开展AI安全性评估、开发AI生成物识别技术等。NAVER、Kakao、SK Telecom、韩国微软、Google Korea、LG AI研究院等均参与该论坛。
国务调整室国务第一次长Kim Jongmun当天在发布会上表示：“今后也将持续运营深度伪造性犯罪应对工作组，周密检查并完善受害支援、打击强化、法案通过、预算确保等本次对策的后续措施。”
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。
