게임 장면까지 실제 전투로 둔갑…미·이스라엘-이란 전쟁 틈타 AI 가짜 영상 급증

조회수 수익·선전 목적 등 허위 콘텐츠 급증
AI 분석 도구도 영상 진위 정확히 판단 못해
정보 접근 제한이 되레 허위 정보 확산 키워

미국과 이스라엘, 이란 간 무력 충돌이 격화하는 가운데 생성형 인공지능(AI)으로 만든 가짜 전쟁 영상과 이미지가 소셜미디어를 통해 급속히 확산하고 있다. 실제 전투 장면처럼 보이는 영상들이 수백만 조회 수를 기록하면서 전쟁 상황에 대한 정보 왜곡에 대한 우려도 커지고 있다.

최근 소셜미디어에 텔아비브가 미사일 공격을 받는 장면이나 중동 주요 시설이 폭격을 당한 것처럼 보이는 영상. 미군이 처형당하는 영상 등 가짜 전쟁 영상이 대량으로 퍼지고 있다. CNN

10일(현지시간) CNN을 비롯해 BBC와 AFP통신 등 주요 외신은 최근 소셜미디어에서 텔아비브가 미사일 공격을 받는 장면이나 중동 주요 시설이 폭격을 당한 것처럼 보이는 영상, 미군이 처형당하는 장면 등을 담은 가짜 전쟁 영상이 대량으로 확산되고 있다며 각별한 주의를 당부했다. 특히, 일부 영상은 수천만 회 이상의 조회 수를 기록하며 마치 현재 일어나는 사실인 양 허위 정보를 공유했다. 하지만 이 가운데 상당수는 생성형 AI나 합성 기술로 제작한 허위 콘텐츠로 확인됐다.

대표적인 사례로 한 X(옛 트위터) 계정은 "중국이 요르단의 미군 기지 상황을 유출했다"는 설명과 함께 폭격 장면이 담긴 영상을 올렸다. 이 영상은 하루 만에 600만 회 이상의 조회 수를 기록했지만, 그래픽이 부자연스럽고 군인이 무거운 방호벽을 쉽게 밀어내는 등 조작 흔적이 여러 곳에서 발견됐다.

문제는 일부 AI 분석 도구 또한 이 영상을 실제 전투 영상으로 판단했다는 것이다. X에서 제공하는 인공지능 챗봇 '그록(Grok)'은 한 영상에 대해 "폭발과 연기, 병사들의 대화 등이 실제 전투 장면과 유사하다"며 AI 생성 영상이 아니라고 판단했다. 그러나 다른 탐지 프로그램에서는 해당 영상이 '약 75% AI 생성'이라는 분석 결과가 나오기도 했다.

비디오게임 장면이 실제 전투 영상처럼 공유되기도

전쟁 관련 허위 콘텐츠는 영상뿐 아니라 이미지에서도 발견된다. 두바이 부르즈 할리파가 화염에 휩싸인 장면이나 바레인 미 해군 제5함대 기지가 파괴된 것처럼 보이는 위성 사진 등이 SNS에 올려 오기도 했다. 구글 분석 결과 일부 이미지는 AI 도구로 생성하거나 편집한 것으로 확인됐다.

이런 허위 전투 영상이 올라오는 가장 큰 이유는 역시 조회 수로 인한 수익이 나기 때문이다. X 등 플랫폼에서는 조회수와 반응이 많은 게시물에 광고 수익이 지급되기 때문에 일부 이용자들이 자극적인 허위 영상을 만들어 무분별하게 퍼뜨리고 있다. SNS 갈무리

심지어 비디오게임 장면이 실제 전투 영상처럼 공유된 사례도 있었다. '이란 항공기가 미국 함선을 공격한다'는 설명과 함께 올라온 영상은 사실 게임 화면이었지만 수많은 조회 수를 기록했다. 이후 사용자들의 지적이 이어지자 해당 게시물에는 "맥락에 맞지 않는 콘텐츠"라는 경고 표시가 붙었다. 이런 허위 전투 영상이 올라오는 가장 큰 이유는 역시 조회 수로 인한 수익이 나기 때문이다. X 등 플랫폼에서는 조회 수와 반응이 많은 게시물에 광고 수익이 지급되기 때문에 일부 이용자들이 자극적인 허위 영상을 만들어 무분별하게 퍼뜨리고 있다.

특정 세력 선전 목적 콘텐츠 또한 적지 않아

나아가 전쟁에서 특정 세력이 우세한 것처럼 보이게 하려는 선전 목적의 콘텐츠 또한 적지 않은 것으로 추정된다. 전쟁 상황에서는 정보 접근이 제한되기 때문에 사실 여부를 확인하기 더욱 어렵다는 점도 허위 정보 확산의 배경으로 꼽힌다.

나아가 전쟁에서 특정 세력이 우세한 것처럼 보이게 하려는 선전 목적의 콘텐츠 또한 적지 않은 것으로 추정된다. 전쟁 상황에서는 정보 접근이 제한되기 때문에 사실 여부를 확인하기 더욱 어렵다는 점도 허위 정보 확산의 배경으로 꼽힌다. SNS 갈무리

실제로 현재 이란 내부 상황은 외부 취재가 제한된 상태다. 국제 언론과 시민들이 올리는 영상 상당수가 SNS를 통해 전달되면서 정보 검증이 더욱 어려워지고 있다. 빠르게 소비되는 숏폼 영상의 특성도 가짜 콘텐츠 확산을 가속하는 요인으로 지목된다. 이에 BBC, CNN, AFP 등 주요 언론은 전쟁 관련 콘텐츠에 대한 팩트체크를 강화하고 있다. 주요 SNS 플랫폼에도 허위 정보에 대한 빠른 대처에 나서고 있다. 가장 많은 가짜 영상이 공유된 X 측은 AI 생성 전쟁 영상을 표시 없이 게시할 경우 수익화 프로그램에서 제외하겠다는 방침을 밝힌 상태다.

방제일 기자 zeilism@asiae.co.kr