정교한 가짜 음란영상, AI가 잡아낸다

일본 국립정보학연구소 연구진 개발…AI, 가짜 동영상에 나타나는 특징 학습해 걸러내

(사진=게티이미지)

[아시아경제 이진수 선임기자] 진짜와 똑 같은 것처럼 보이는 가짜 동영상을 구분해내는 인공지능(AI)이 일본 도쿄(東京) 소재 국립정보학연구소 연구진에 의해 개발됐다고 도쿄신문이 30일 보도했다.

AI의 발달로 사람이 육안으로는 분간할 수 없는 정교한 가짜 동영상이 쉽게 만들어져 악용되고 있다. 이때 사용되는 기술이 이른바 '딥페이크(deepfake)'다.

AI로 기존 인물의 얼굴이나 특정 부위를 영화의 컴퓨터 그래픽(CG)처럼 영상으로 합성하는 것이다. 정계ㆍ연예계 유명인사들을 소재로 삼은 가짜 포르노 영상 역시 이렇게 만들어진다.

원리는 대상 인물의 얼굴 특징이나 입의 움직임을 다량의 화상으로 AI에 학습시킨다. 그러면 AI는 학습효과 덕에 특정 인문들의 얼굴을 치환할 수 있게 된다. 특징만 익히면 누구의 얼굴이라도 맞바꿀 수 있는 것이다.

국립정보학연구소의 야마기시 준이치(山岸順一) 조교수는 도쿄신문으로부터 가짜 동영상 구분 AI 기술 개발을 의뢰 받고 약 1주만에 완성한 것으로 알려졌다. 그는 "아무리 정교한 가짜 동영상이라도 간단히 구분해낼 수 있다"고 자신했다.

실제로 인터넷에는 도널드 트럼프 미국 대통령과 블라디미르 푸틴 러시아 대통령 등 유명인사들의 얼굴을 조작한 동영상이 속속 올라오고 있다. 유명 연예인도 표적이 되기 십상이다.

페이스북 같은 소셜네트워킹사이트(SNS)에 동영상을 공개하는 일반인도 타깃이 될 수 있다. 도쿄신문은 앞으로 가짜 동영상이 사회를 혼란시킬 수 있다며 우려하기도 했다.

야마기시 조교수는 "인간의 눈으로 분간할 수 없는 동영상이라도 가짜 동영상에만 나타나는 특징을 AI가 학습하면 간파할 수 있다"고 설명했다.

실험 결과 AI는 진짜 동영상과 딥페이크로 만들어진 가짜 동영상을 99% 구별해냈다.

야마기시 조교수에 따르면 정교한 가짜 동영상을 만들어내는 데 방대한 양의 영상이 필요하지만 걸러내는 데는 약간의 영상만 있으면 된다. "가짜와 진짜의 숨바꼭질에서 지금은 가짜를 간파해내는 쪽이 유리하다"는 것이다.

이진수 선임기자 commun@asiae.co.kr