[개인·기업 노리는 딥페이크 공포②]가짜 CEO가 명령했다…‘실시간’ 탐지 기술 절실

영상통화에 딥페이크 입혀 사칭하는 범죄 위험 증가
이미지·영상뿐 아니라 실시간 딥페이크 탐지 기술 필요

#지난해 10월 테슬라의 로보택시 행사 생중계를 가장한 소셜미디어 동영상에 접속한 수많은 이들이 딥페이크 사기에 노출됐다. 가짜 생중계 영상 속에서 딥페이크로 조작된 가짜 일론 머스크 테슬라 CEO는 생중계를 보려면 QR코드를 통해 암호화폐를 납부하라고 안내했다. 앞서 지난해 4월 국내 한 여성은 일론 머스크를 사칭해 영상통화로 접근해 온 이에게 스캠을 당해 7000만원을 잃고 말았다.

지금까지 딥페이크 범죄는 주로 성범죄에 악용된다는 인식이 컸다. 최근에도 역대 최대 사이버 성착취방인 ‘목사방’이 딥페이크로 성착취물을 제작한 사실이 드러났다. 이러한 딥페이크 악용 범죄는 이제 성범죄뿐 아니라 금전과 정보 편취를 목적으로 개인과 기업을 노리는 유명인 사칭으로 확대되고 있다.

딥페이크 범죄자들은 주로 소셜미디어를 활용해 유명 CEO, 연예인의 얼굴로 개인들을 속여 암호화폐 송금 유도, 도박 비용 모금 등을 저질러왔다. 사진 한 장으로 영상 속 인물의 얼굴을 바꾸는 ‘페이스스왑’과 말하는 내용에 따라 입 모양이 바뀌는 ‘립싱크 합성’ 등의 기술로 가능한 일이다.

생성형 AI 기술이 빠르게 발전하면서 이 같은 기술들은 더욱 정교해지고 있다. 이러한 기술은 영상 콘텐츠 생성의 효율을 높여준다는 장점이 있지만 기업의 CEO나 임원을 사칭해 기업의 기밀정보 등 중요 자산을 편취하는 데 악용될 위험도 커지고 있다.

특히 범죄자들은 기존 영상에 타인 얼굴을 합성하는 기법을 넘어 웹캠을 통해 상대와 대화할 때 자신의 얼굴을 타인의 얼굴로 실시간으로 변환해주는 딥페이크 실시간 영상 제작 기술을 악용하고 있다. 이러한 기술이 AI를 통해 더욱 정교해지면 개인 간 영상통화, 기업 내 화상회의 등으로까지 범죄자들이 침투해 사기를 저지르는 시나리오가 충분히 현실이 될 수 있다.

이에 따라 ‘실시간’ 딥페이크 탐지 기술의 발전이 절실해지고 있다. 이에 발맞춰 국내 보안 기업도 기술 개발에 나섰다. IT보안·인증 플랫폼 기업 라온시큐어 는 AI 기술을 통해 모바일 앱으로 딥페이크 동영상이나 이미지를 탐지할 수 있는 기능을 자사 개인용 모바일 백신 앱인 ‘라온 모바일 시큐리티’에 탑재한 데 이어, 딥페이크 실시간 탐지 기술도 개발하고 있다. 이를 통해 스마트폰 화면상에 현재 이뤄지고 있는 영상통화나 화상회의가 딥페이크인지 탐지할 수 있는 기술이다.

라온시큐어는 실시간 딥페이크 탐지 기술을 개인용 딥페이크 탐지 앱에 적용할 뿐 아니라 기업에 제공할 방침이다. 개인들은 이 기술을 통해 지인을 사칭한 딥페이크 영상통화 피싱을 예방할 수 있고 통신사 등 기업들은 이 기술을 고객들에게 제공하거나, 자사 임직원들을 CEO 및 임원 사칭 영상통화, 화상회의 등으로부터 보호해 귀중한 기업 정보를 지키고 금전적인 사기도 방지할 수 있다.

웹캠이나 영상통화를 이용한 실시간 딥페이크 기술이 고도화됨에 따라 지인을 사칭한 딥페이크 범죄도 고도화 되고 있는 실정이다. 가짜 CEO가 임직원에게 영상통화로 기업에 손실을 끼치는 업무 지시를 하고 가짜 직원이 화상회의에 참석해 기밀 정보를 빼가는 일이 현실이 될 수 있다는 얘기다. 이 때문에 이를 탐지하는 실시간 탐지 기술의 수요는 개인과 기업들 사이에서 더욱 절실해질 것으로 예상된다.

실제 딥페이크 범죄 예방을 위한 기술의 수요는 생성형 AI 기술 발전과 더불어 증가하고 있다. 시장조사업체 마켓앤마켓은 글로벌 딥페이크 탐지 시장이 2022년 5억달러(약 7267억원)에서 2027년에는 18억달러(약 2조6163억원) 규모로 성장할 것으로 전망했다.

보안 업계 한 전문가는 “딥페이크 범죄자들은 이미 만들어진 딥페이크 이미지나 동영상으로 상대를 속이는 것을 넘어 자신의 얼굴을 타인의 얼굴로 바꿔 실시간 영상으로 개인이나 기업에 침투하고 있다”며 “실시간 딥페이크 탐지 기술은 이에 대응해 개인과 기업의 자산을 지키고 산업 경쟁력 사수에 기여할 것이고 딥페이크 기술이 정교해짐에 따라 탐지 기술도 지속적인 연구개발이 이뤄져야 할 것”이라고 말했다.

장효원 기자 specialjhw@asiae.co.kr