한국산 인공지능으로 '딥페이크' 잡는다

사진 위·변조 탐지하는 실용 소프트웨어
국내 최초로 사진 위·변조 탐지기술의 본격적인 실용화 길 열어

[아시아경제 황준호 기자] 인공지능을 활용해 만든 가짜 사진이나 동영상인 '딥페이크'를 포함해 각종 위·변조 사진이나 동영상을 잡아내는 인공지능이 국내 연구진에 의해 개발됐다. 논문 수준에 머무르던 위·변조 탐지 기술을 실제 소프트웨어로 만든 국내 첫 위·변조 탐지 인공지능이다.

이흥규 한국과학기술원 전산학부 교수의 연구팀은 인공신경망을 이용해 디지털 형태의 사진 변형 여부를 탐지하는 실용 소프트웨어 '카이캐치'를 개발했다고 3일 밝혔다.

광범위하고 다양한 변형을 탐지하는 카이캐치

필수변이 공격 별 탐지 결과

카이캐치는 특정 변형 탐지보다는 광범위한 변형 유형에 대한 탐지 기능이 특화된 인공지능이다. 특정 변형을 탐지하는 개별 알고리즘을 모아놓은 기존 기술의 한계를 넘어, 다양한 변형을 유기적으로 탐지할 수 있다.

연구팀은 잘라 붙이기, 복사 붙이기, 지우기, 이미지 내 물체 크기 변화와 이동, 리터칭 등 일상적이면서 자주 발생하는 변형들에서 언제나 발생하는 변이들을 정리해 필수 변이로 정의했다. 이어 이를 종합적으로 탐지할 수 있도록 해, 변형의 유형을 특정하지 못해도 변형이 발생했는지 여부를 판단할 수 있도록 했다.

연구팀은 카이캐치를 개발 하기 위해 일반인들을 대상으로 2015년 6월부터 '디지털 이미지 위·변조 식별 웹서비스'를 통해 수집한 30여만 장의 유통 이미지 데이터와 특징기반·신경망 기반의 포렌식 영상 데이터, 딥페이크와 스테고 분석을 위한 대량의 실험 영상자료를 활용했다.

또 BMP·TIF·TIFF·PNG 등 무압축, 무손실 압축을 포함해 50여 개의 표준 양자화 테이블과 1000여 개가 넘는 비표준화된 양자화 테이블에 기반한 JPEG 이미지들도 포괄적으로 처리하는 기술을 활용했다.

국내 최초 세계 두번째 위·변조 탐지 인공지능

사진 편집 변형 탐지 결과

연구팀은 "논문 발표 수준에만 머물러 있던 사진과 영상자료의 위·변조 탐지기술을 국내 최초로, 세계에서 두 번째로 실용화 단계로 끌어 올렸다는 점에서 의미가 크다"고 밝혔다.

이 교수는 "다양한 변형 시 공통으로 발생하는 픽셀 수준에서의 변형 탐지와 인공지능 기술을 융합한 영상 포렌식 기술을 카이캐치에 담았는데 이 기술은 특히 임의의 환경에서 주어진 디지털사진의 변형 여부를 판단하는데 탁월한 성능을 보인다"고 말했다.

이 교수는 이어 "향후 각종 편집 도구들의 고급 기능들에 대한 광범위한 탐지 기능을 추가하는 한편 현재 확보한 실험실 수준의 딥페이크 탐지 엔진과 일반 비디오 변형 탐지 엔진들도 실용화 수준으로 발전시켜 카이캐치에 탑재하겠다"고 덧붙였다.

황준호 기자 rephwang@asiae.co.kr