美 대선 앞두고 쏟아지는 AI發 가짜사진…주정부 딥페이크 규제 본격화

주 의회서 피해 방지 위한 대책 마련
연방법 적용은 애매…바이든 "위험 관리 필요"

지난달 미국 국방부 청사인 펜타곤 영내에서 폭발 사건이 발생하는 사진이 퍼지면서 일시적으로 미 증시가 하락했다. 이달 초에는 도널드 트럼프 전 미 대통령이 코로나19 사태에 갈등을 빚었던 앤서니 파우치 전 국립알레르기·전염병연구소장과 스킨십하는 사진이 등장해 주목받았다. 두 사진 모두 일어나지 않은 일을 마치 있었던 것처럼 인공지능(AI)으로 만들어낸 가짜 사진, 이른바 '딥페이크' 사진이었다.

미국 각 주(州)에서 딥페이크 사진을 규제하기 위한 조치를 마련하고 있다고 20일(현지시간) 블룸버그통신이 보도했다. 내년 대통령 선거를 앞두고 생성형 AI를 악용해 만든 딥페이크 사진들이 사회적 문제를 일으키자 규제의 필요성이 갈수록 커지고 있어 주 의회에서 관련 법안을 마련하는 절차에 돌입한 것이다.

미국 국방부 펜타곤의 모습으로 지난해 3월 실제 촬영 사진이다. [이미지출처=AP연합뉴스]

도널드 트럼프 전 미 대통령(왼쪽)과 앤서니 파우치 전 국립알레르기·전염병연구소장이 엇갈리는 모습이 담긴 사진으로 2020년 3월 실제 촬영됐다. [이미지출처=로이터연합뉴스]

보도에 따르면 현재 음란물과 선거 관련 딥페이크를 규제하는 법이 마련된 미국 내 주는 9개다. 캘리포니아, 텍사스, 버지니아는 AI 열풍이 불기 전인 2019년 이미 딥페이크 관련 법을 마련했다. 미네소타는 지난 5월 관련 법을 만들었고 일리노이주도 유사한 법이 의회를 통과해 주지사의 최종 서명 절차만 남아 있다. 현재 4개 주에서도 관련 입법 절차를 밟고 있다.

딥페이크는 AI를 활용해 인간 이미지를 합성하는 기술을 말한다. 2017년 미 온라인 커뮤니티 레딧에서 한 사용자가 AI 알고리즘을 활용해 유명인의 얼굴을 동의 없이 성인물에 붙이는 방식으로 가짜 포르노 영상을 올리는 것에서 만들어진 용어다. 딥페이크 사진이나 영상은 AI 기술 개발에 따라 빠르게 늘고 있다.

딥페이크 식별 서비스를 제공하는 딥트레이스 랩스는 2019년 온라인에 딥페이크 영상이 약 1만5000개 확인이 가능하며 그중 96%가 여성이 등장하는 성인물이었다고 지적했다. 또 다른 딥페이크 감지하는 업체 센시티 AI도 2018년 이후 딥페이크 영상이 기하급수적으로 늘었다고 지적했다.

특히 올해 들어 생성형 AI에 대한 관심이 커지고 피해 사례도 늘었지만 연방 의회에서 관련 논의가 주춤한 상태다. 이에 각 주 의회가 당장 피해를 막기 위해 법안 마련에 속도를 내고 있다고 블룸버그는 전했다. 내년에는 미 대선도 앞두고 있어 딥페이크 사진이 선거운동 방식에도 큰 변화가 예상된다는 미 정치 전문 매체 더힐의 분석도 최근 나온 상태다.

[이미지출처=로이터연합뉴스]

전문가들은 현행법으로는 딥페이크 사진을 고소하기 쉽지 않다고 지적하고 있다. 딥페이크에 대해 연구하는 레베카 델피노 로욜라 매리마운트대 법학 교수는 "기술이 계속 개발돼 디지털 포렌식 전문가가 아니면 어떤 게 가짜이고 진짜인지를 말하기 매우 어려운 상황"이라고 말했다. 매튜 쿠글러 노스웨스턴대 교수는 "얼굴처럼 완전히 공개된 무언가를 가져오는 식이면 현행 법률하에서 사람들이 그걸 고소할 확실한 방법이 없다"고 지적했다.

현재로서는 음란물 딥페이크 관련 특정 법이 없으면 소송을 걸기 쉽지 않을 수 있다고 한다. 미국 내 48개 주에서 리벤지포르노(보복성 음란물)와 '몰카'를 금지하는 법이 있지만 딥페이크가 가짜라는 점을 감안하면 해당 법 조항이 적용되지 않을 가능성이 있다고 쿠글러 교수는 우려했다. 초상권 침해에 따른 명예훼손 등도 주에 따라서는 상업적 목적으로만 권리를 적용할 수 있어 딥페이크 관련 처벌과는 거리가 있을 수 있다는 지적이 나온다.

현재 각 주에서 제정된 법의 적용 범위가 다양하고, 딥페이크의 정의도 제각각이라는 점이 문제로 지적된다. 또 딥페이크가 타인에 해가 되지 않는 방식으로 사용될 수도 있어 합법적인 딥페이크를 보호하면서 유해한 딥페이크를 금지하기가 쉽지 않다는 전문가의 우려도 나왔다.

실제 월스트리트저널(WSJ)은 최근 유명인들이 AI를 활용해 합성하거나 변형한 자신의 이미지나 영상과 관련해 직접 계약을 맺는 경우가 생겨나고 있다고 보도한 바 있다. 오히려 AI 기술로 유명인의 연령대를 낮춰 젊어 보이게 한다거나 실제로는 해당 인물이 할 수 없는 일을 하는 것처럼 사진이나 영상을 만드는 것도 가능하다고 WSJ는 전했다.

한편, 조 바이든 미 대통령은 이날 캘리포니아주 샌프란시스코에서 시민사회 지도층과 전문가를 만나 AI의 위험 요인을 관리하겠다고 밝혔다. 그는 "지난 50년, 어쩌면 더 오랜 기간보다 앞으로 10년간 더 많은 기술 변화를 목격할 것"이라고 말했다. 그러면서 "우리는 사회와 경제, 국가 안보에 대한 위험을 관리할 필요가 있다. 사생활 보호부터 AI의 편견과 가짜 뉴스 대응, AI 시스템이 출시되기 전 안전한지 확인하는 것까지 미국인의 권리와 안전을 보호하는 데 전념하고 있다"고 강조했다.

정현진 기자 jhj48@asiae.co.kr