LG구겐하임 수상 작가 페글렌 "진짜를 증명해야 하는 AI 시대"

생성형 AI 등장…인식 방식 바뀌는 중
가짜 골라내는 대신 진짜 증명해야
문화, 정치 전반에 영향
AI 윤리에 대한 고민도 필요

"이란 전쟁 시작 후 사회관계망서비스(SNS)를 통해 상황을 파악하려 했어요. 순간 제 사고방식이 완전히 바뀌어 있다는 것을 깨달았어요. 예전엔 가짜 정보나 잘못된 정보를 골라냈다면, 이제는 '무엇이 진짜인가'를 찾고 있었습니다."

우리는 이제 가짜 이미지를 걸러내는 대신 '진짜를 증명해야 하는 세계'에 살고 있는지도 모른다. 미국의 유명 미술가 트레버 페글렌은 지난 14일(현지시간) 뉴욕 구겐하임 미술관에서 기자들과 인터뷰를 통해 인공지능(AI) 기술이 인간의 인식 방식 자체를 바꾸고 있다고 경고했다.

올해 LG구겐하임 어워드 수상자인 페글렌은 기술의 감시와 AI 편향성 등을 탐구해온 작가로 유명하다. 해저케이블, 데이터센터, 군사 위성 등 '보이지 않는 인프라'의 물질성을 드러내왔던 그는 최근 AI가 인간의 인식에 어떠한 영향을 미치는지 탐구하고 있다.

페글렌은 지난 15년 동안 우리가 이미지를 바라보는 방식에 두 번의 큰 변곡점이 있었다고 진단했다. 첫 번째는 '컴퓨터 비전'이다. 그는 "자율주행차, 공장의 자동 품질 관리 시스템, 공항의 얼굴 인식 시스템 등이 대표적"이라며 "이들(컴퓨터 비전)은 모두 인간이 아닌 다른 기계를 위해 이미지를 생성한다"고 말했다.

그의 작품 '보행 분류'는 이런 시각을 그대로 담아낸다. AI가 사람의 걸음 패턴을 분류하고 추적화한 방식을 시각화한 작품이다. 알고리즘이 인간의 몸을 어떻게 데이터로 환원하는지 보여준다.

페글렌은 "역사적으로 이미지는 인간이 볼 때 비로소 존재하는 것이었다. 이제는 인간이 없어도 이미지가 생성되고 활용되는 시대가 됐다"며 "매우 근본적인 변화"라고 지적했다.

우리는 눈빛, 표정, 낯빛, 손짓 등 비언어적인 맥락을 통해 감정을 읽고 상대를 판단한다. 그러나 컴퓨터 비전은 픽셀, 패턴, 확률 등 데이터를 중심으로 인간을 해석한다. 이 안에서 개인은 각자의 고유한 특징이 소거돼 인간성이 사라진다.

컴퓨터 비전은 객관적일 것이라는 우리의 믿음과 달리 편견을 학습했다. AI 학습 데이터를 분석해 인종과 성별 편향을 폭로한 '이미지넷의 얼굴들(Faces of ImageNet)'은 이런 문제의식의 연장선을 보여준 작품이다.

두 번째는 바로 생성형 AI다. 페글렌은 "이제 우리는 텍스트 뒤에 반드시 저자가 존재하지 않아도 되는 시대, 예술 작품 뒤에 반드시 예술가가 존재하지 않아도 되는 시대, 사진 뒤에 반드시 사진가가 존재하지 않아도 되는 시대에 살고 있다"고 지적했다. 창작자와 작품의 연결고리가 끊어지고 있다는 점을 지적한 것이다.

실제 그렇게 만들어진 이미지들이 넘쳐난다. 이란 전쟁 발발 후 온라인에서 AI로 만든 가짜 이미지들이 논란이 됐다. 페글렌은 "이제는 가짜를 제거하는 것이 아니라, 모든 것이 가짜라고 가정한 상태에서 진짜를 찾는 방식으로 바뀌고 있다"며 "이것이 문화와 사회, 정치 전반에 매우 큰 영향을 미칠 수 있다고 생각한다"고 말했다.

트레버 페글렌 작가의 관객 참여형 프로젝트 ‘이미지넷의 얼굴들’. LG

페글렌의 우려는 새롭지 않다. 미셸 푸코는 권력이 '보이지 않는 시선'의 구조로 작동한다고 했고, 한나 아렌트는 사실과 허구의 경계가 불분명해지면 사람들이 공유하는 현실 인식 자체가 흔들릴 수 있다고 말했다. AI가 만들어내는 가짜 이미지들은 이 경고가 현실이 됐음을 보여준다.

그는 "지금 무언가 중요한 변화가 일어나고 있으며, 우리는 그것을 이해하고, 그로 인해 발생할 수 있는 부정적인 결과를 어떻게 피할 수 있을지 고민해야 한다"고 강조했다.

페글렌은 '기업이 AI 편향성을 해결하는 것이 가능하냐'는 질문에 "저는 그 문제를 개별 기업인이나 개발자 개인의 책임으로만 보지 않는다"며 "다만 특히 미국에서는 이제 '우리가 기술을 어떻게 사용하고 싶은가'뿐 아니라 '기술이 무엇을 하지 말아야 하는가'에 대한 논의가 훨씬 더 본격적으로 이루어져야 할 시점이라 생각한다"고 지적했다.

페글렌이 AI로 인한 인식 방식의 변화를 예술 작품으로 다루는 이유가 있다. 그는 이번 수상이 연구 중심 예술에 대한 인식을 넓히는 계기가 되길 바란다고도 했다.

페글렌은 "나는 매일 스튜디오에서 그림을 그리는 전통적 방식과는 다른 방식으로 작업한다"며 "다양한 전문가와 협업하고 긴 조사 과정을 거치는 작업도 예술이 될 수 있다는 가능성을 다른 예술가들에게 보여주고 싶다"고 말했다.

뉴욕(미국)=황윤주 특파원 hyj@asiae.co.kr