"AI가 썼는지 잡아낸다"…챗GPT 제작사, 식별 프로그램 출시

"완전 신뢰는 아직…계속 개발중"

[아시아경제 정현진 기자] 전 세계에 인공지능(AI) 열풍을 불러일으킨 챗봇 '챗GPT'를 만든 오픈AI가 글을 AI가 작성했는지 여부를 파악할 수 있는 프로그램을 만들어 출시했다고 1일(현지시간) CNBC방송 등이 보도했다. 오픈AI측은 해당 프로그램이 완전히 믿을 수 있는 수준은 아니라면서도 2019년 내놓은 식별 프로그램보다는 안정적이라고 자신했다.

보도에 따르면 오픈AI는 이날 교사 등을 위한 무료 웹 기반 도구 'AI 텍스트 분류기'를 내놓는다고 밝혔다. 학교에서 학생들이 에세이 등을 작성할 때 본인이 직접 작성하는 것이 아닌 챗GPT를 활용하는 문제가 발생하자 이를 식별할 수 있도록 하는 도구를 마련한 것이다. 지난해 11월 챗GPT를 출시한 이후 두 달 만에 나온 조치다.

해당 프로그램을 사용하려면 단어 1000개 이상이 포함된 영문 글을 입력해야 한다. 다른 언어를 적용할 경우 성능이 크게 떨어진다고 오픈AI는 설명했다. 글을 입력하면 이 도구가 ▲진짜 AI가 쓴 것 같지 않음(Very unlikely) ▲AI가 쓴 것 같지 않음(unlikely) ▲불분명(unclear) ▲ AI가 썼을 가능성 있음(possible) ▲AI가 쓴 것으로 보임(likely) 등 다섯 가지 척도로 판단해 평가한다.

오픈AI 측은 이 프로그램이 완벽하지 않고 계속해서 개발 중이라고 밝혔다. 오픈AI는 블로그 글을 통해 영문 글을 도구에 넣어 실험해 봤을 때 AI가 작성한 글의 26%를 'AI가 쓴 것으로 보임'으로 정확하게 판단했지만, 9%는 인간이 작성한 것으로 보인다는 잘못 판단했다고 밝혔다. 오픈AI는 "이 도구의 신뢰도는 보통 입력한 글의 길이가 증가하면서 향상된다"고 전했다.

글을 AI가 작성했는지 여부를 판단하는 프로그램은 이번에 처음 나온 것은 아니다. 2019년 오픈AI가 초기 단계의 탐지기를 먼저 내놨다. 오픈AI는 이번 프로그램이 4년 전 도구보다는 훨씬 안정적이라고 평가했다. 또 이달 초에는 프린스턴대 컴퓨터학과 학생인 에드워드 타이탄이 글을 AI가 작성했는지 여부를 감지할 수 있는 'GPT제로'를 공개하기도 했다.

정현진 기자 jhj48@asiae.co.kr