'엠마왓슨이 음란광고까지 찍다니'…AI 딥페이크였다

유명 배우 얼굴·목소리 정교하게 합성
메타·애플 "음란물 콘텐츠 금지할 것"

영화 '해리포터' 주인공 엠마 왓슨 등 해외 유명 배우들이 딥페이크 (Deepfake)기술로 사회관계망서비스(SNS) 음란 광고에 등장하고 있다.

딥페이크는 동영상에서 다른 사람의 얼굴과 소리를 합성시키는 인공지능(AI) 기술 방식이다. 최근 그 기술이 더 정교해지고 있으며 유명 연예인을 넘어 어린이 등 평범한 사람의 얼굴이 동의 없이 사용될 수 있어 문제가 심각하다.

미국 NBC 뉴스는 8일 (현지시각) 딥페이크를 이용해 유명 배우들의 얼굴을 합성한 음란 동영상이 SNS를 중심으로 퍼져나가고 있다고 보도했다.

매체는 페이스북 등 메타의 SNS에 나온 앱 광고물 중 127개가 왓슨을 닮았고 또 다른 74개는 할리우드 액션 배우 스칼렛 요한슨의 얼굴을 합성한 것이라고 집계했다. 실제로 해당 광고에서 웃고 있는 엠마 왓슨은 실제로 촬영한 것이 아닌 딥페이크로 합성된 것이다.

엠마 왓슨이 대학 졸업을 기념해 트위터에 사진을 올렸다. 사진은 기사의 특정 내용과 관련 없음. [사진출처=엠마 왓슨 트위터]

현재 메타는 악의적으로 조작된 딥페이크 콘텐츠를 금지하고 있다.

그러나 NBC가 검토한 앱들은 선정적인 행동은 제한되지만 아슬아슬하게 규제를 넘지 않도록 딥페이크 동영상을 만드는 등 허점을 노리고 있다.

해당 광고물은 NBC가 취재에 들어가자 메타 서비스에서 사라졌다. 애플 앱 스토어에서도 원래 무료로 다운로드가 가능했으나 똑같은 광고물이 취재 후 삭제됐다.

온라인 합성 미디어 모니터링 회사인 딥트레이서의 2019년 보고서에 따르면 온라인 딥페이크 자료의 96%가 음란물이었다.

메타 측은 "우리 정책은 AI에 의한 것이든 그렇지 않은 것이든 간에 성인물을 금지하는 것"이라며 "우리는 이 페이지를 우리 플랫폼에서 광고하지 못하게 했다"고 밝혔다.

애플 역시 "아직 딥페이크에 대한 구체적 규칙을 갖고 있지 않으나 음란물과 명예훼손 콘텐츠를 포함한 앱은 금지한다"는 입장을 전했다.

문화영 인턴기자 ud3660@asiae.co.kr