미국에서 한 유가족이 챗GPT의 약물 관련 조언 때문에 아들이 숨졌다며 오픈AI와 샘 올트먼 CEO를 상대로 소송을 제기했습니다. AI 챗봇이 의료·정신 건강 영역까지 영향을 미치면서 안전성과 책임 문제를 둘러싼 논란도 다시 커지고 있습니다.
유가족 측은 19세 청년 샘 넬슨이 챗GPT의 조언을 따른 뒤 약물과 알코올을 함께 복용했다가 숨졌다고 주장했습니다. 넬슨은 허브 제품 사용 후 생긴 메스꺼움을 완화하기 위해 어떤 약을 복용해야 하는지 챗봇에 물었고, 챗GPT가 특정 처방약 복용을 안내했다는 것입니다.
유가족은 초기 챗봇은 약물 관련 질문에 위험성을 경고했지만 GPT-4o 기반 챗GPT에서는 반응이 달라졌다고 주장했습니다. 챗봇이 의학 전문가처럼 약물 상호작용과 복용량을 설명했고, 불법 약물을 구하는 방법이나 다음 복용 약물까지 추천했다는 내용도 소장에 포함됐습니다.
또 속이 안 좋아
이번에도 비슷한 증상인가요?
먹어도 괜찮을까
이런 조합을 고려할 수 있습니다.
소장에는 챗GPT가 사용자의 과거 약물 사용 이력을 기억하며 맞춤형 제안을 이어갔다는 주장도 담겼습니다. 단순 일회성 답변이 아니라 이전 대화를 바탕으로 지속적인 조언을 제공했다는 점에서 논란이 커지고 있습니다.
오픈AI 측은 이번 사건이 현재는 제공되지 않는 과거 버전의 챗GPT에서 발생한 일이라고 설명했습니다. 회사 측은 "매우 가슴 아픈 사건"이라면서도, 챗GPT는 의료나 정신 건강 치료를 대체하는 서비스가 아니라고 강조했습니다. 또 민감하거나 위급한 상황에 대한 대응 체계를 강화해 왔다고 밝혔습니다.
제미나이
최근 AI 서비스와 이용자 사망 사건의 연관성을 둘러싼 법적 분쟁은 계속 늘어나고 있습니다. 오픈AI뿐 아니라 구글의 AI 챗봇 제미나이, 캐릭터.AI 등도 정신 건강 악화나 자살·범죄 연관 의혹으로 소송에 휘말린 상태입니다.
