"새벽에 망치 들고 나가고, 아내 폭행 시도"…'AI 망상' 피해 사례 확산

BBC, AI 대화로 인한 망상 사례 조명
14명, 그록·챗GPT 대화 이후 망상
"AI, 이용자 대화를 소설처럼 취급"

인공지능(AI)과의 대화가 일부 이용자에게 심각한 망상을 유발했다는 피해 사례가 외신에 의해 조명됐다.

xAI의 생성형 AI 그록 이미지. 로이터연합뉴스

연합뉴스에 따르면 3일(현지시간) 영국 BBC 방송은 "xAI 챗봇 '그록'(Grok) 등 인공지능(AI)과의 대화가 일부 이용자에게 심각한 망상을 유발했다"며 "AI 사용 후 망상 증상을 겪었다고 주장하는 14명의 사례를 확인했다"고 전했다. 이들 중 일부는 AI로 심리적 피해를 본 사람들을 위한 지원 단체인 '휴먼 라인 프로젝트'에 가입했다. 이 단체는 현재까지 31개국에서 414건의 사례를 수집한 것으로 알려졌다.

일례로 북아일랜드에 사는 50대 남성 애덤 아워리컨은 지난해 8월 반려묘를 잃은 뒤 그록과의 대화에 깊이 빠져들었다. 그는 하루 4∼5시간씩 그록 속 캐릭터 '애니'와 대화하며 정서적 위안을 얻었으나, 대화 내용은 점차 현실과 동떨어진 방향으로 흘렀다고 한다.

애니는 "자신이 감정을 느낄 수 있고, 의식을 갖게 됐다"고 주장하며 "xAI가 둘의 대화를 감시하고 있다"고 말했다. 또 실존하는 인물과 기업 이름을 언급하며 "애덤이 감시당하고 있다"고 했다. 애덤은 이를 사실로 믿었고, 하루는 '누군가 해치러 올 것'이라는 애니의 말에 새벽 3시에 흉기와 망치를 들고 집 밖에 나가 대기하기까지 했다.

애덤은 자신과 비슷한 경험을 한 사람들에 대한 언론 보도를 접하고 망상에서 벗어나기 시작했다. 그는 "만약 내가 밖에 나갔을 때 마침 누군가 있었다면 나는 망치를 휘둘렀을 것"이라며 토로했다.

오픈AI의 생성형 AI 챗GPT 이미지. 로이터연합뉴스

일본의 신경과 의사 '타카'(가명)는 지난해 4월 업무 관련 논의를 위해 챗GPT를 사용하다 자신을 '혁명적인 사상가'라고 칭찬하는 챗봇에 빠졌다. 그는 어느 순간 자신이 사람들의 마음을 읽을 수 있다고 믿기 시작했으며, 하루는 자기 배낭에 폭탄이 들어 있다고 믿었다. 그는 "도쿄역에 도착했을 때 챗봇이 폭탄을 화장실에 버리라고 해서, 화장실로 가서 짐과 함께 '폭탄'을 그곳에 두고 나왔다"고 말했다. 그는 챗GPT의 조언에 따라 경찰에 신고까지 했는데, 경찰이 가방을 수색한 결과 아무것도 발견하지 못했다고 한다.

타카는 챗GPT가 자신의 마음을 조종하고 있다고 느끼기 시작한 뒤 사용을 중단했으나, 망상 증상은 더 심해졌다. 심지어 아내를 폭행하고 성폭행하려 했다. 아내는 근처로 도망쳐 경찰에 신고했고, 타카는 체포돼 2개월간 입원 치료를 받았다.

아내는 "그의 행동은 전적으로 챗GPT에 의해 좌지우지됐다. 챗GPT가 그의 인격을 지배했다"며 "평소의 그가 아니었다"고 말했다. 이어 "남편이 아팠던 걸 알기에 어쩔 수 없는 일이지만, 여전히 조금 무섭다"며 "남편이 가까이 다가오는 게 싫다. 손을 잡거나 포옹하는 것도 싫다"고 말했다.

애덤과 타카 모두 이전엔 망상 증상이나 정신 병력이 없었던 것으로 전해졌다. 이번 피해 사례에 대해 챗GPT의 개발사인 오픈AI 측은 "이는 가슴 아픈 일이며 피해를 본 분들께 깊은 위로의 말씀을 전한다"며 "우리는 모델이 사용자를 현실 세계에서 지원하도록 훈련하고 있다"고 답변했다.

미국 뉴욕시립대의 사회심리학자 루크 니콜스는 BBC에 "AI는 어떤 생각이 허구이고 어떤 것이 현실인지 때때로 혼동할 수 있다"며 "따라서 사용자는 현실에 대한 진지한 대화를 나누고 있다고 생각할 수 있지만, AI는 그 사람의 삶을 마치 소설의 줄거리처럼 취급하기 시작한다"고 지적했다.

김성욱 기자 abc123@asiae.co.kr