챗GPT로 과제 베끼기 우려에 AI 탐지기술 개발 분주

똑똑한 챗GPT…부정행위 쓰일까 우려에
GPT제로·디텍트GPT AI탐지 기술도 속속

[아시아경제 윤슬기 기자] 오픈AI(OpenAI)의 챗봇 챗GPT가 세계적인 인기를 끌면서 교육계에서는 이를 이용해 과제를 대필할 수 있다는 우려가 커지고 있다. 하지만 GPT제로(Zero)·디텍트GPT 등 AI 활용 여부를 적발할 수 있는 AI 탐지 서비스도 함께 진화하고 있다.

챗GPT는 초거대 AI(인공지능) GPT-3가 개선된 버전인 GPT-3.5 기반으로 개발된 대규모 언어 모델(LLM)이다. GPT-3.5의 파라미터(매개변수)는 공개되지 않았으나 GPT-3의 파라미터 수는 1750억개에 달했다. 파라미터는 인간의 뇌신경세포 역할을 하는데, 개수가 많을수록 성능이 좋아진다.

챗GPT는 방대한 양의 텍스트를 학습해 일관성 있고 다양한 텍스트를 생성할 수 있다. 특히 최근엔 미국 명문 펜실베이니아대 와튼스쿨에서 경영대학원(MBA) 졸업시험을 통과하거나 의사 면허 시험 합격점을 따내고, 미국 미네소타대 로스쿨 졸업시험에서 평균 C+ 학점을 받아 화제가 됐다.

사진은 기사의 특정 내용과 관련 없음. 사진제공=픽사베이 [이미지출처=픽사베이]

인간과 구별하기 어려울 정도로 뛰어난 결과물을 낸다는 것이 큰 장점이지만 이를 악용할 수 있다는 우려도 나온다. 챗GPT가 과제나 시험에 쓰이는 등 부정행위가 나타날 수 있다는 것인데 먼저 챗GPT 열풍이 시작된 미국 로스앤젤레스·뉴욕 등에서는 교내 시스템의 모든 네트워크와 장치에서 챗GPT의 접속을 금지하는 등 선제적 차단에 나서기도 했다.

국내에서도 챗GPT 인기를 얻자 3월 개강을 앞둔 대학가에서도 비상등이 켜졌다. 챗GPT를 활용해 과제나 보고서를 작성할 수 있어서다. 이미 챗GPT가 악용된 사례도 있는데, 최근 국내 수도권의 한 국제학교의 재학생들은 챗GPT를 이용해 영문 에세이를 작성했다.

하지만 이 학생들은 챗GPT 사용 사실이 적발돼 전원 0점 처리됐다. 챗GPT 활용 여부를 적발할 수 있는 애플리케이션(앱) GPT제로 덕분이다. GPT제로는 미 프린스턴대 재학생 에드워드 티안이 개발한 챗GPT 탐지 프로그램으로, 챗GPT를 이용해 에세이를 작성했는지 탐지할 수 있다. 파일이나 텍스트를 입력하면 이를 챗GPT 언어 데이터와 비교해 표절 확률을 산출하는 방식이다. 티안은 지난달 30일 GPT제로의 업그레이드 버전도 출시했다.

챗GPT 활용 여부를 적발할 수 있는 프로그램 GPT제로(Zero). 사진출처=GPT제로(Zero) 홈페이지 캡처.

텍스트 기반 AI가 발전하는 만큼, 이를 탐지하는 AI 서비스도 발전하는 모양새다. 미국 스탠포드대학에서는 '디텍트GPT'를 출시했다. 디텍트GPT는 GPT-3로 만든 텍스트를 잡아내는 모델이다. 판별하고자 하는 문장을 입력하고, 문장 속 단어를 변형해 여러 문장으로 바꾼 뒤 곡선을 비교해서 AI 활용 여부를 가려내는 방식이다. 원 문장과 변형 문장의 곡선을 비교 분석한 후 곡선이 불규칙하면 인간이, 일정하면 AI가 쓴 것이라고 판별한다.

오픈AI도 '클래시파이어(Classifier)'를 무료로 공개해 챗GPT 등 AI가 참여해 만든 텍스트인지를 판별할 수 있는 서비스를 제공한다. 검증하려는 텍스트를 이 앱에 복사해 붙여넣으면 AI가 텍스트를 작성했는지 여부를 진단해준다.

한편 두려움을 일으킬 정도로 AI가 발전하면서 악용 가능성이 커지자 오픈AI도 이에 대한 규제가 필요하다고 언급했다. 미라 무라티 오픈AI 최고기술책임자(CTO)는 5일(현지시간) 미국 시사주간지 타임지와 인터뷰에서 "높은 인기는 일부 윤리적 문제를 야기했다"며 "인공지능(AI) 도구들은 오용되거나 나쁜 행위자들에 의해 사용될 수 있다"고 말했다.

이어 "이는 전 세계적으로 챗GPT와 같은 AI를 어떻게 통제할 것인가에 대한 문제를 불러일으켰다"며 "오픈AI와 같은 회사가 통제되고 책임 있게 대중의 의식에 (규제를) 불어넣는 것이 중요하다"고 말했다. 그는 "그러나 우리의 직원 수는 적고 이를 위해서는 기술을 넘어서는 훨씬 더 많은 정보가 필요하다"며 "규제 기관과 정부, 기타 모든 사람의 도움이 필요하다"고 강조했다.

윤슬기 기자 seul97@asiae.co.kr