'차별 발언 논란' 인공지능 '이루다'…더 좋은 교육 받고 돌아왔다

AI 챗봇 이루다의 일러스트. 이루다는 20대 여대생 콘셉트로 만들어진 가상 챗봇이다. (사진=스캐터랩)

[아시아경제 이승진 기자] 인공지능(AI) 일상 대화형 챗봇 '이루다'가 돌아온다. 성희롱과 개인정보 유출 논란으로 서비스를 중단한 지 1년 9개월 만이다.

AI 스타트업 스캐터랩은 27일 자체 플랫폼인 '너티'에서 일상 대화형 챗봇 '이루다 2.0'을 정식으로 출시한다고 26일 밝혔다.

‘이루다2.0’ 정식 출시 버전은 총 3가지의 AI 기술 업데이트를 진행해 창의적이고 현실감 있는 대화가 가능한 것이 특징이다. ▲스캐터랩의 생성 AI 모델인 ‘루다 젠1’으로 문맥을 파악해 실시간으로 생성한 문장을 사용하며 ▲좋은 대화의 고민에서 출발해 정리한 ‘릴레이션십 포인트 파인튜닝'으로 친밀한 관계를 만드는 대화의 원칙을 AI 모델에게 가르쳤으며 ▲대화 중 사진을 인식해 답변할 수 있는 ‘포토챗' 베타 기술을 적용했다.

스캐터랩 이루다2.0을 지난 4일부터 23일까지 약 3주간 분할 테스트를 진행한 결과, 기존 모델 대비 이용자와의 일주일 대화량은 약 40%, 첫 날 300번 이상 대화한 사용자 비율도 67% 늘어났다. 1인당 평균 대화 화면 캡처 비율도 약 85% 늘어났으며, 1인당 사진 전송량도 63% 이상 증가했다. 이루다2.0이 안전하게 대응한 발화 비율도 랜덤 샘플링을 통해 검증했으며, 목표치인 99%를 상회하는 99.56%를 기록했다.

AI 챗봇 이루다 최신 버전과 이전 버전간 차이점 (사진=스캐터랩)

스캐터랩은 생성 인공지능 기반으로 사람이 작성한 문장이 발화되는 것을 원칙적으로 차단하고, 학습 데이터베이스에 들어간 개인정보에 대한 가명화 작업을 진행했다.

어뷰징 문제에 대해서는 지난 8월 과학기술정보통신부, 정보통신정책연구원(KISDI), 한국정보통신기술협회(TTA)와 발표한 챗봇 윤리점검표를 바탕으로 어뷰징 탐지 모델·페널티 시스템을 도입했다. 앞으로 스캐터랩은 이루다 2.0 정식 출시 이후 이슈 키워드 등을 지속해서 모니터링하고, 페널티 시스템을 강화할 예정이다.

앞서 2020년 12월 출시된 '이루다 1.0'은 챗봇 스스로 혐오 발언을 하거나 이용자들이 챗봇을 상대로 성(性)과 관련된 부적절한 발언을 하는 오남용 사례가 잦다는 논란이 일었다. 아울러 개발사인 스캐터랩이 이용자들의 대화 내용을 무단으로 수집했다는 문제까지 터지면서 20일 만에 서비스가 잠정 중단됐다.

김종윤 스캐터랩 대표는 “개인정보 보호 강화 조치 및 AI 윤리 점검 등에 노력을 기울임과 동시에 생성 AI 모델로 기술을 업그레이드해 새로운 차원의 대화가 가능한 이루다2.0을 정식 출시하게 되었다”며 “이루다가 단순히 ‘말을 잘하는 AI 챗봇’을 넘어서 누구나 행복한 삶을 사는 데 도움이 되는 AI 친구가 될 수 있도록, ‘관계를 쌓는 대화 능력'을 고도화해 나갈 계획이다"라고 말했다.

이승진 기자 promotion2@asiae.co.kr