내년 4·15 총선은 '딥페이크' 가짜뉴스와의 전쟁

AI 기술로 음성·영상 합성 허위콘텐츠
진위 파악 어려울 정도
멕시코·인도 등 가짜녹취·영상 정치공세
대선 앞둔 미국도 규제 내놔
경찰, 적극 대응키로

[아시아경제 이관주 기자] 내년 4월15일 열리는 '21대 국회의원 선거(총선)'를 앞두고 '딥페이크(deepfake)' 경계령이 내려졌다. 진짜인지 가짜인지 구별하기 힘든 허위 자료들이 마구잡이로 유포될 경우 공정 선거에 치명타가 될 수 있기 때문이다. 경찰은 딥페이크 유포 행위에 대한 단속에 나섰다.

딥페이크는 '딥러닝(deep learning)'과 속임수를 뜻하는 '페이크(fake)'의 합성어다. 인공지능(AI) 기술로 사람의 이미지와 음성ㆍ영상 등을 합성해 허위 콘텐츠를 만들거나 변형하는 기술을 뜻한다. 첨단 기술이 적용되는 만큼 진위를 파악하기 어려울 정도로 정교한 위조가 가능하다.

그간 딥페이크 기술은 불법 음란물을 만드는 데 주로 악용됐다. 네덜란드 사이버보안업체 딥트레이스가 최근 공개한 보고서에 따르면 온라인에 유통된 딥페이크 동영상은 1만4798개로, 이 가운데 96%가 포르노였다. 특히 한국 여자 연예인 얼굴이 합성된 음란물이 많다.

딥페이크는 음란물뿐 아니라 여론을 조작해 사회 혼란을 부추기는 데 활용될 수도 있어 문제다. 특히 선거에서 상대 후보를 공격하는 '네거티브' 전략에 이용될 경우 파급력이 클 것으로 예상된다. 특정 후보에 대한 비방 자료들이 소셜네트워크서비스(SNS)를 통해 무분별하게 유포된다면 사실상 대처가 어렵다. 총선 예비후보자 등록부터 선거까지 단 4개월 만에 이뤄지는데, 추후 범인을 검거하고 사실관계를 바로잡는 데는 오랜 시간이 걸린다는 점도 피해 후보에게 불리하게 작용할 수 있다.

아직 우리나라에서 선거와 관련해 딥페이크를 이용한 허위 자료가 적발된 사례는 없다. 지난해 '제7회 전국동시지방선거' 당시 경찰에 적발된 선거사범 2665명 중 '흑색선전'이 767명(28.8%)으로 가장 많았다. 이 같은 네거티브 공세에 딥페이크가 활용될 수 있다는 게 경찰의 설명이다.

이미 외국에서는 딥페이크를 이용한 정치 공세가 이뤄진 바 있다. 멕시코에서는 지난해 대선 당시 야당 후보였던 로페스 오브라도르 대통령을 음해하는 가짜 녹취파일이 등장했고, 인도에서는 정권 지지자들이 정부에 비판적인 여성 언론인의 얼굴을 음란 영상에 합성한 딥페이크를 유포하기도 했다. 내년 대선을 앞둔 미국에서는 딥페이크를 규제하는 법안이 잇따라 나오고 있다.

경찰은 관련 범죄 대응에 나섰다. 지난 16일 전국 경찰관서에 사이버 선거사범 단속을 위한 검색ㆍ수사전담반 및 사이버공격대응팀을 편성하고 단속체제를 갖췄다. 선거 두 달 전인 2월 중순부터는 검색ㆍ수사전담반을 24시간 가동하고 관련 범죄가 발견될 시 즉시 수사에 착수할 계획이다. 경찰청 관계자는 "우리나라에서도 선거와 관련한 딥페이크가 발생할 가능성이 충분하다"며 "당선 또는 낙선 목적의 허위사실 생산ㆍ유포가 우려되는 만큼 적극적으로 대응하겠다"고 말했다.

이관주 기자 leekj5@asiae.co.kr