DeepBrain AI开发深度伪造犯罪自动检测技术

by Hwang Seoyul

Published 06 Sep.2024 06:00(KST)

Updated 06 Sep.2024 14:51(KST)

open/close

3日在DeepBrain AI总部专访理事 Lee Jeong-su
开发深度伪造检测技术…供警察厅应用
“应先从水印等可解决的问题入手”

一家本土初创企业开始研发一项能在平台上自动探测深度伪造犯罪的技术。利用人工智能（AI）判断是否为深度伪造的技术已经实现商业化，但尚不存在能够进一步判断是否构成犯罪并自动衔接到举报流程的技术。如若研发成功，有望在阻断线上深度伪造视频方面发挥重要作用。

DeepBrain AI理事 Lee Jeong-su 在首尔江南区总部接受《亚洲经济》采访时，讲解深度伪造检测技术的原理。照片=记者 Heo Young-han younghan@

据生成式人工智能（AI）企业DeepBrainAI介绍，该公司正在开发一款模型，可在平台上自动探测包括色情视频在内的深度伪造犯罪内容。DeepBrainAI是一家通过比较原始人脸与被篡改人脸的像素（画面中最小单位）差异，来判别视频是否为深度伪造、从而协助警方开展调查的初创公司。

负责统筹该公司深度伪造探测解决方案商业化的理事Lee Jeongsu表示：“我们持续学习新的深度伪造类型，以高度化深度伪造探测技术，并且从长期来看也在开发包括性犯罪在内的犯罪探测技术。”

这项技术与已商业化技术的区别在于，能够在平台层面自动筛除视频。他解释称：“此前一直是通过人工搜索关键词来查找视频”，“（正在开发的技术）将在目标平台上自动筛除深度伪造视频，并进一步衔接到删除请求。”

该公司掌握的深度伪造探测技术，是通过比较原始人脸与被篡改人脸的细微差异来运作的。面向公共机构在国内首次实现深度伪造探测解决方案商业化，也得益于这一技术。他表示：“从像素层面观察原始与被篡改人脸的眼睛、鼻子、嘴等特征时，可以发现这些特征的数值存在差异”，“我们对像素变化的模式进行学习，并以此为基础，将被篡改的可能性以概率值的形式输出。”