힐러리 “AI·딥페이크가 2024년 대선 최대 위협”

"인공지능(AI)의 위험성을 걱정하지 않는 사람은 관심이 없는 사람이다"

힐러리 클린턴 전 국무장관이 28일(현지시간) 컬럼비아 대학교에서 열린 패널 토론회에 참가하며 이같이 발언했다. 'AI가 2024년 세계 선거에 미치는 영향'이란 주제로 진행된 이 날 행사에서 클린턴은 오는 11월 대선에 가장 큰 위협으로 AI를 지목했다. 배석한 미국 선거 관리자들과 IT 기업 경영진도 AI가 생성·확산하는 허위 정보가 대선에 악영향을 끼칠 수 있다고 평가했다.

[이미지출처=EPA연합뉴스]

클린턴은 2016년 대선에서 도널드 트럼프 전 대통령에게 패배했던 자신의 경험을 회상하며 "선거를 앞두고 인터넷에 자신에 대한 온갖 가짜 뉴스, 밈, 음모론이 넘쳐났다"고 말했다. 이어 "누군가 가볍게 만드는 가짜 콘텐츠 하나로 모두가 피해를 보게 된다"고 지적했다.

클린턴은 AI를 이용한 러시아의 선거 개입 가능성도 경고했다. 그는 "푸틴이 2016년 대선에서 자신을 깎아내리기 위해 페이스북, 트위터, 스냅챗을 가짜 뉴스로 가득 채웠다"고 토로했다. 실제로 초당적 외교·군사 전문가 단체 '프롭오어낫'은 보고서를 통해 2016년 대선 기간 러시아의 선전 작업에 동원된 사이트 수가 200개에 달했다고 공개한 바 있다.

클린턴은 이어 "당시 러시아가 내게 한 짓은 원시적인 수준이지만 지금 우리가 이야기하는 것은 비약적으로 발전된 기술"이라며 AI가 양산하는 허위 정보뿐만 아니라 딥페이크 동영상 등 더 강력한 위협이 나타났다고 지적했다. 미시간주 국무장관 조슬린 벤슨도 "이제 우리는 AI를 통해 이러한 거짓말이 증폭되는 선거 주기에 직면해 있다"고 우려했다.

특히 딥페이크 등 생성형 AI의 위험성은 지난 1월 뉴햄프셔 프라이머리에서도 확인됐다. 월스트리트저널(WSJ) 등 현지 언론에 따르면 당시 유권자들에게 바이든 대통령 목소리를 흉내 낸 '로보콜'이 무작위로 연결되며 투표에 참여하지 말 것을 종용한 것으로 알려졌다.

이처럼 AI가 지닌 파급력이 가시화되자 기업들도 대응에 나섰다. 아마존, 구글, 마이크로소프트, 오픈AI 등 빅테크(대형정보기술기업)를 포함한 24개 기업은 지난달 독일 뮌헨안보회의(MSC)에서 유권자에게 영향을 줄 수 있는 딥페이크를 감지해 라벨(꼬리표)을 붙이는 등 허위 정보 생성 및 확산 방지 협력에 합의했다.

이날 토론회에 참석한 기술 기업 경영진도 "생성형 AI를 활용한 악의적 위험을 추적하고 식별하기 위해 최선을 다하겠다"고 화답했다. 에릭 슈미트 전 구글 최고경영자(CEO)는 "딥페이크 문제는 앞으로 몇 년 동안 훨씬 더 악화할 것"이라며 "유관 기업들이 협력을 통해 해결책을 찾아야 한다"고 말했다.

김진영 기자 camp@asiae.co.kr