用AI反制深度伪造…政府开发分析模型

by Kim Youngwon

Published 30 Jul.2025 12:00(KST)

行政安全部与国立科学搜查研究院开发AI深度伪造分析模型
2个月内鉴定涉选举案件13起、性犯罪案件2起

#曾发生这样一宗案件：有人将社交媒体上好友的脸部照片合成到裸体图像上，并通过网络聊天工具传播。国立科学搜查研究院利用“人工智能深度伪造分析模型”，在该传播物中捕捉到合成面部边界处出现的失真，从而认定其为“深度伪造”。这一鉴定结果被用作屏蔽虚假视频、启动侦查的关键科学证据。

今后，为了判别疑似深度伪造图像和视频的真伪，政府开发的人工智能模型有望得到广泛应用。

行政安全部与国立科学搜查研究院合作，引入人工智能技术，完成了用于判别深度伪造真伪的“人工智能深度伪造分析模型”的开发和验证工作，并已在今年4月起的2个月间用于深度伪造犯罪侦查。双方于30日公开了相关成果。行政安全部和国立科学搜查研究院表示，通过将该分析模型投入深度伪造证物鉴定工作，有望为深度伪造犯罪侦查带来划时代的转折点。

该分析模型接受包括警察厅在内的侦查机关的鉴定委托，在今年5月至6月成功完成了对60件证物、共15起深度伪造案件的鉴定。其中13起为第21届总统选举期间与总统候选人相关的案件，2起为数字性犯罪案件。此外，在大选期间向中央选举管理委员会共享该分析模型，帮助检测并删除了包括YouTube在内的线上平台上1万余件非法深度伪造竞选内容。

利用人工智能深度伪造分析模型的工作流程。行政安全部提供

该分析模型的开发背景是，近期深度伪造犯罪呈爆炸式增长，而判别技术相对匮乏，侦查机关在相关证物分析方面面临困难。根据广播通信审议委员会的数据，要求整改的深度伪造性犯罪视频从2022年的3574件、2023年的7187件，激增至去年的2万3107件。

在模型开发过程中，利用了约231万条深度伪造数据，包括公开数据集和自行制作的内容等。同时，采用最新深度学习算法对海量数据进行训练，并通过持续反馈和性能改进工作，不断提升检测性能。

由此开发出的分析模型能够自动检测深度伪造痕迹，对疑似被篡改的文件预测合成概率以及按时间划分的篡改率，帮助迅速判断是否为深度伪造。该模型具备对五官等特定部位逐一检测篡改情况的能力，也能分析因反复上传、下载导致部分数据缺失的证物。

此次分析模型的开发，打破了过去因技术局限而无法实施相关鉴定的困境，首次在国内实现了深度伪造鉴定的官方化，具有重要意义。随着分析模型的问世，也建立起以科学证据为基础的侦查体系。行政安全部和国立科学搜查研究院计划将本次分析模型的成果与2023年由行政安全部开发的“语音诈骗语音分析模型”相结合，产生协同效应。

分析模型的应用范围今后也将进一步扩大。国立科学搜查研究院内部目前采用独立运行方式，今后计划将该模型整合进数字证物认证系统（DAS）。同时，还将分阶段向女性家庭部、广播通信委员会等机构推广该模型，推进各机构在深度伪造内容检测与应对能力方面的强化。

National Forensic Service院长 Lee Bongu表示：“我们将通过强化以人工智能技术为基础的科学搜查能力，全力提升鉴定的速度和准确性”，并称“将主动应对快速变化的尖端技术环境，构建让国民可以信赖的科学搜查体系”。