“인공지능으로 가짜 포르노 만들었다”

유명 여배우 사진 추출, 포르노 영상에 합성
AI 비전문가가 개발…“소비자용 장비로 가능”
악의적 의도 갖고 AI 활용 우려

[아시아경제 안하늘 기자] 인공지능(AI) 기술을 활용해 유명 여배우의 얼굴을 포르노에 합성한 가짜 포르노 영상이 공개됐다. 이 영상을 만든 사람은 AI 분야의 전문가도 아니었으며, 심지어 일반 소비자용 장비만으로 제작할 수 있다는 사실에 논란이 일고 있다.

16일 업계에 따르면 IT 게시판 레딧(Reddit)에서 딥페이크(deepfakes)라는 ID를 한 네티즌은 AI로 개발한 가짜 포르노 영상을 게재했다. 그는 이스라엘 출신 영화배우 갤 가돗(Gal Gadot), 스칼릿 조핸슨(Scarlett Johansson), 테일러 스위프트(Taylor Swift), 메이지 윌리암스 (Maisie Williams) 등의 얼굴의 합성한 포르노 영상을 공개했다.

그는 AI 관련 오픈소스 소프트웨어인 텐서플로우를 활용해 이 영상을 만들었다고 설명했다. 특히 그는 유명인들의 얼굴을 모으기 위해 구글 이미지 검색, 유튜브 동영상을 활용했으며, 이를 딥 러닝 알고리즘을 통해 영상에 합성하는 훈련을 했다고 밝혔다.

그는 자신이 AI 분야의 전문 연구 인력이 아니라, 단지 이 분야에 관심이 많은 프로그래머라고 소개했다. 그는 "얼굴 전환을 하는 손쉬운 방법을 찾았다"며 "수백 개의 얼굴 이미지를 통해 수백만개의 왜곡된 이미지를 쉽게 만들 수 있다"고 말했다.

AI 연구자인 알렉스 챔팬다드(Alex Champandard)는 마더보드에 이 같은 작업이 일반 소비자용 그래픽카드로 몇 시간 만에 처리가 가능하다고 설명했다. 시간이 조금 더 오래 걸리겠지만 CPU만으로도 이런 작업할 수 있다고 덧붙였다.

이미 인터넷상에는 수많은 인물 사진이 떠돌아 다니고 있다. 구글에 따르면 2015~2016년 전 세계 사람들이 구글 포토에 240억개의 본인의 사진을 업로드했다. 게다가 최근 들어 실제 이미지를 활용해 가짜의 이미지를 만들어내는 '생산적 적대 신경망'(GANs, Generative Adversarial Networks) 기술이 빠르게 발전하고 있다.

실제 딥페이크는 영상을 만드는데 엔비디아에서 개발한 알고리즘과 유사한 방식을 사용했다고 설명했다. 그는 여름 장면의 비디오를 즉각적으로 겨울 장면으로 변환하는 기술을 예로 들었다. 엔비디아는 지난 10월 가짜 이미지를 생성하는 생산적 적대 신경망 기술과 관련한 논문을 발표하기도 했다.

사실 그가 선보인 가짜 포르노 영상은 100% 완벽하진 않다. 배우의 움직임을 자세히 보면 뭔가 어색하다는 느낌이 든다. 하지만 기술의 발전 속도를 생각해보면 조만간 악의적인 의도를 가지고 더 진짜 같은 가짜 콘텐츠를 유포하는 사례가 나타날 수 있다는 우려가 제기된다.

딥페이크는 이에 대해 "모든 기술은 나쁜 동기로 사용될 수 있고, 그것을 막을 수는 없다"며 "더 많은 일반인들이 머신 러닝 연구에 참여하는 것이 나쁘지 않다고 생각한다"고 말했다.

안하늘 기자 ahn708@asiae.co.kr