行政安全部与国立科学搜查研究院新增获取5种AI模型
虚假信息检测率达92%，较以往大幅提升
与相关部门协作，加强应对数字犯罪
为应对针对选举的深度伪造（Deepfake）篡改犯罪，政府将正式在实务现场运用人工智能（AI）检测技术。
行政安全部和国立科学搜查研究院表示，通过去年举办的“应对深度伪造的人工智能检测模型征集大赛”最终选出的5个优秀模型，将提供给中央选举管理委员会。
当天，行政安全部部长 Yoon Hojoong 就利用深度伪造制造的假新闻强调称，这是“威胁民主主义的新型信息犯罪”，并表示“保护选民免受被扭曲的信息误导、保障其正确判断和权利，是政府的重要职责”。
近期，随着生成式人工智能技术的发展，将特定人物的面部或声音进行高度精细合成的深度伪造犯罪，正成为严重的社会问题。
据中央选举管理委员会介绍，选举期间对深度伪造视频的删除请求，从2024年总选举时的388件，激增到去年总统选举时的1.051万件。
此前国立科学搜查研究院所持有的深度伪造检测模型，检测范围主要集中在面部区域，在应对高度复杂化的深度伪造方面存在局限。
通过去年有1077人参与的民间征集大赛，追加获取了5种优秀模型，从以面部为主的局部分析，进一步发展为可对背景、身体等在内的整段视频进行判别的全局检测技术。
行政安全部说明称，此次新模型的虚假信息检测率为92%，相比此前模型的76%有大幅提升。
使用方式为，登录国立科学搜查研究院的深度伪造检测服务后，上传疑似被深度伪造篡改的视频、图像或音频文件，系统即可对其真伪进行判别。
在当日演示会上，上传一段伪造的竞选宣传视频并启动视频、音频检测模型后，系统给出了“Fake 99.99%”的结果。结果是通过各模型分别判定后，以多数表决方式得出。
结果数值范围为0到100，数值越接近0，代表是真实视频的概率越高；越接近100，则代表是深度伪造假视频的概率越高。
中央选举管理委员会调查局局长 Jo Bonggi 表示：“选民一旦发现深度伪造视频，只需向中央选举管理委员会举报即可，我们还在运营400名监测人员。”
他接着说明说：“中央选举管理委员会为尽量减少深度伪造对选民判断的影响，一旦发现相关内容，会立即向相关平台或当事人提出删除请求。”
根据《公职选举法》，自选举日前90日起至选举日止，若以选举运动为目的制作、散布或发布深度伪造视频，将被处以7年以下有期徒刑，或1000万韩元以上、5000万韩元以下的罚金。
行政安全部和国立科学搜查研究院今后将分阶段扩大人工智能深度伪造分析模型的应用范围，并与性别平等家庭部、广播媒体通信委员会、警察厅等相关部门协作，强化对数字犯罪的应对。
Yoon 部长表示：“一旦捕捉到疑似深度伪造的图像或视频，将通过科学分析迅速确认是否被篡改，并由相关机构协同在适当时机采取必要应对措施。”
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。
