챗GPT 거짓말에 속아…30년 경력 변호사 청문회行

제출한 판례 여섯 건 가짜 "전례 없는 일"
변호사 "챗GPT 처음 써봐서 몰랐다"

인공지능(AI) 챗봇 챗GPT가 법률 자료를 찾아달라는 한 미국 변호사의 요청에 가상 창작물을 제시했다. 해당 변호사는 ‘거짓 판례’가 담긴 서류를 제출했다는 이유로 청문회에 회부될 위기에 놓였다.

28일(현지시간) 뉴욕타임스(NYT) 보도에 따르면 로베르토 마타라는 남성은 최근 콜롬비아 아비앙카항공을 상대로 법원에 소송을 냈다. 2019년 8월 엘살바도르에서 미국 뉴욕으로 가는 아비앙카항공 여객기를 탔다가 음식 운반용 철제 카트에 부딪혀 다리를 다쳤는데, 이를 직원의 잘못이라고 주장했다.

항공사는 일반적인 항공사건 공소시효(2년)가 지난 뒤 제기한 소송이라며 맨해튼 연방법원에 기각을 요청했다. 마타의 변호를 맡은 30년 경력의 스티븐 슈워츠 변호사는 “소송은 계속 진행돼야 한다”고 맞섰다. 유사 판례 여섯 건 이상을 담은 10쪽 분량의 의견서를 법원에 제출했다.

이를 확인한 아비앙카항공 측의 바트 바니노 변호사는 “슈워츠 변호사의 의견서에 담긴 중국 남방항공 사건 판례는 물론 여기에 인용된 2008년 제11 연방고등법원의 대한항공 판결문을 도저히 찾을 수 없다”며 케빈 카스텔 뉴욕남부연방지법 판사에게 서한을 보냈다. 이어 “의견서에 담긴 판례들이 실제 판결이 아닐 수 있다”며 AI 챗봇이 관여됐을 수 있다는 의혹을 제기했다.

[이미지출처=연합뉴스]

카스텔 판사는 제11 연방고등법원에 관련 사안을 문의해 “슈워츠가 제시한 판례의 사건번호로 검색한 결과 전혀 무관한 다른 사건이 나왔다”라는 답을 받았다. 나머지 판례 다섯 건 역시 가짜로 판명됐다.

카스텔 판사는 NYT에 “슈워츠 측 의견서는 위조된 가짜 사법부 결정과 가짜 인용문으로 가득했다”며 “법원에서 전례가 없는 사례”라고 말했다. 이어 다음 달 8일 슈워츠 변호사 제재 여부를 논의하기 위한 공판을 열겠다고 전했다.

슈워츠 변호사는 챗GPT 도움을 받아 의견서를 작성했다는 사실을 인정했다. 그는 “법원과 항공사를 속일 의도는 아니었다. 이전까지 AI 챗봇을 한 번도 써본 적이 없어서 그 자료들이 가짜일 수 있다는 걸 인지하지 못했다”고 밝혔다. 이어 "챗GPT에 판례가 있었는지 거듭 검증을 요청했고, 그때마다 ‘사실이다. 모두 실제 사건이고 저명한 법률 데이터베이스에서 검색할 수 있다’라는 답이 돌아왔다”며 선처를 호소했다.

NYT는 “최근 AI가 상당수 전문직의 존립을 위태롭게 한다는 우려가 커지고 있으나 아직 대체까지 시간이 더 남아 있다는 걸 보여주는 사례”라고 평했다.

최승우 기자 loonytuna@asiae.co.kr