선거 위협 '딥페이크'…경찰, 자체 개발 소프트웨어로 단속

10분 이내 진위 파악 가능

제22대 국회의원 선거를 앞두고 딥페이크 영상을 활용한 허위정보 유포나 여론조작에 대한 우려가 높아지는 가운데 경찰이 자체 개발한 소프트웨어로 단속에 나선다.

경찰청 국가수사본부는 인공지능 기술의 발전과 함께 증가하는 딥페이크 이용 범죄에 대응하기 위해 새로운 소프트웨어를 개발하고 본격적으로 활용한다고 5일 밝혔다.

소프트웨어는 페이스 스왑 등 딥페이크 영상을 시스템에 올리면 5분에서 10분 이내에 해당 영상을 분석해 '가짜'인지 '진짜'인지 판별한다. 또한, 분석 결과를 즉시 보고서로 제공해 수사에 즉시 활용할 수 있도록 지원한다.

특히 이번에 개발된 소프트웨어는 한국인을 대상으로 한 새로운 데이터 학습을 통해 이전보다 높은 탐지율을 보장한다. 인물 5400명의 데이터 520만점(한국인 데이터 100만점 및 아시아 계열 인종 데이터 13만점 포함) 등 한국인과 관련한 다양한 데이터 학습이 이뤄졌다.

그 결과 약 80%의 탐지율을 자랑하며, 딥페이크와 관련된 새로운 기술이 발전할 때마다 전문가들의 검증을 거치며 소프트웨어를 업데이트할 예정이다. 다만, 탐지율이 100%가 아닌 만큼 경찰 증거자료보다는 수사 방향을 설정하는 자료로 활용한다는 방침이다.

경찰청은 "딥페이크 이용 여부가 의심될 경우 해당 소프트웨어를 통해 빠르게 결과를 확인하고 적극적인 수사를 진행할 것"이라며 "앞으로도 더욱 정확한 탐지가 이루어지도록 소프트웨어를 계속 고도화할 것"이라고 설명했다.

유병돈 기자 tamond@asiae.co.kr