"이런 건 왜 만드는 거야?" 한국에 퍼진 기괴한 현상… 외신 지적 나왔다

SCMP, 한국 AI 조작 사례 조명
"한국, AI 소비 세계 최고 수준"
현실·가상 경계 흐려져…안전장치 부족 지적

한국 사회에서 생성형 인공지능(AI)이 빠르게 대중화되면서 가상과 현실의 경계가 흐려지고 있다는 외신 분석이 나왔다.

인공지능(AI) 콘텐츠로 추정되는 야구 중계 영상 속 한 여성 캡처. 인스타그램 캡처

17일(현지시간) 홍콩 사우스차이나모닝포스트(SCMP)는 '실재감 결핍: 한국은 어떻게 AI에 대한 현실 감각을 잃었나'라는 제목의 기사를 보도했다. 매체는 한국에서 잇따라 화제가 된 AI 생성 콘텐츠 사례들을 소개하며 기술 확산 속도에 비해 사회적 안전장치는 뒤처지고 있다고 진단했다.

SCMP가 대표 사례로 꼽은 건 최근 사회관계망서비스(SNS)를 달군 이른바 '야구장 여신' 영상이다. 프로야구 경기 관중석에 앉은 여성의 모습을 담은 5초짜리 이 영상은 '평균적인 한국 여성', '한국 야구 여신' 등의 제목으로 퍼지며 조회 수 1500만회를 넘기며 화제가 됐다.

그러나 해당 여성은 실제 인물이 아닌 AI로 만들어진 가짜였다. 야구팬들은 전광판에 은퇴한 선수와 현역 선수의 대결 구도가 등장한 점, '최강 두산' 대신 '최강은 두산'이라고 잘못 적힌 응원 문구 등을 근거로 이 같은 사실을 찾아냈다.

AI 생성물이 재미를 넘어 공공 안전까지 흔든 사례도 언급됐다. 지난 4월 대전 오월드 늑대 '늑구' 탈출 소동 당시 SNS에는 늑대가 학교 앞 교차로를 돌아다니는 듯한 이미지가 확산했다. 이 사진은 재난 대응 당국의 주민 대피 공문과 방송 브리핑 자료에도 영향을 미쳤지만, 실제로는 생성형 AI로 만든 합성 사진이었다. 이후 제작자인 40대 직장인은 공무집행방해 혐의로 경찰에 붙잡혔다.

AI(인공지능)로 생성된 가짜 늑대 사진. SNS 캡처

SCMP는 한국이 전 세계에서 이른바 'AI 슬롭(AI slop)' 소비가 가장 활발한 국가 가운데 하나라고 전했다. AI 슬롭은 클릭 수를 노리고 대량 생산되는 저품질 AI 콘텐츠를 뜻한다. 글로벌 영상 편집 플랫폼 카프윙(Kapwing)은 한국 기반 AI 슬롭 유튜브 채널 11개의 누적 조회 수가 약 84억5000만회에 달한다고 분석했다.

2024년 사회적 파장을 일으킨 텔레그램 딥페이크 성범죄 사건도 언급됐다. 미성년자와 여성 얼굴을 합성한 불법 이미지가 대규모로 유포되며 AI 악용 위험성이 드러났다는 것이다.

김명주 한국AI안전연구소장은 SCMP와의 인터뷰에서 "외모와 이미지에 대한 문화적 관심이 높은 한국에서 AI가 억눌린 욕망과 좌절을 대리 충족시키는 왜곡된 거울 역할을 하고 있다"며 "과도한 몰입은 현실 도피를 조장하고 삶의 만족도를 떨어뜨리는 악순환을 만들 수 있다"고 진단했다.

SCMP는 한국의 생성형 AI 수용 속도는 세계 최고 수준이지만 규제와 윤리 논의는 여전히 부족하다고 지적했다.

김현정 기자 kimhj2023@asiae.co.kr