NC AI, 고객 상담 챗봇에 위험 차단 '세이프가드' 기술 적용

엔씨 챗봇 '엔써' 탑재…3중 보안 기술
국내 최초 종합 AI 안전 시스템 상용화

NC AI는 엔씨소프트의 고객 상담 챗봇 서비스 '엔써(NCER)'에 자체 개발한 인공지능(AI) 안전성 기술 '세이프가드'를 정식 적용했다고 30일 밝혔다. 국내 AI 기업 중 최초로 종합적인 AI 안전 시스템을 상용 서비스에 도입한 사례다.

NC AI, 고객 상담 챗봇에 '세이프가드' 도입. NC AI 제공

NC AI의 세이프가드 기술은 레드·블루·퍼플팀으로 구성된 삼중 보안 체계를 기반으로 운영된다. 레드팀은 탈옥(Jailbreaking) 등 새로운 악성 공격 패턴을 연구하고, 블루팀은 이에 대한 방어 기술을 개발한다. 퍼플팀은 두 팀의 결과를 종합해 정책에 반영하는 순환 구조로 설계됐다.

특히 NC AI는 엔씨소프트의 퍼블리싱 코디네이션 센터와 협업해 게임업계 특성을 반영한 '챗봇 네거티브 규제 정책'을 수립했다. 이 정책에는 게임 서비스 관련 부적절한 내용, 유료 재화 관련 편법, 금지 행위 등이 포함됐다.

엔써는 지난해 AI 기술과 게임 데이터 기반 고객서비스(CS) 효율화 및 고객 만족도 향상을 위해 출시한 서비스다. 주요 게임에서 이용자들의 실시간 문의, 버그 제보, 건의 사항 접수 등을 담당하고 있다.

세이프가드 기술이 적용된 엔써는 ML 커먼스와 국제 벤치마크 연구에서 제시하는 차별·혐오·욕설·외설 등 일반적인 부적절 내용을 차단하면서 게임 산업 고유의 안전 요구사항도 반영했다. 실시간 대화 환경에서 발생할 수 있는 다양한 위험 상황을 사전에 탐지하고 즉시 차단한다. 실제 '리니지W'와 '리니지2M'에서 13개 언어의 광고 패턴을 탐지하고 차단하는 스팸 필터링 시스템이 운영 중이다.

NC AI는 텍스트 기반 안전성 기술을 시각-언어 모델(VLM) 기반의 멀티모달 콘텐츠 탐지로 확장한다는 계획이다. 이미지, 동영상 등에서 발생할 수 있는 부적절한 내용까지 포괄적으로 차단하는 차세대 AI 안전 시스템을 구축한다는 목표다. 에이아이웍스와 함께 고위험 상황에서의 안전한 AI 응답 시스템도 개발하고 있다. 국가 차원의 AI 안전성 표준 확립에 기여할 것으로 NC AI는 기대했다.

NC AI의 기술은 게임 챗봇을 넘어 다양한 산업 영역으로 확장되고 있다. 신작 역할수행게임(RPG) '아이온 2'에서는 자연어 기반 애니메이션 생성과 감정 표현이 가능한 음성 합성(TTS) 기술을 선보였다.

이연수 NC AI 대표는 "이번 세이프가드 기술 적용은 NC AI가 AI 안전성 분야에서 기술적 우위를 확보하고, 책임감 있는 AI 개발 기업으로서의 위치를 공고히 하는 중요한 출발점"이라며 "앞으로도 기술 독립과 산업 실증, 글로벌 공헌을 동시에 실현하는 대한민국 AI 전문 기업으로서의 소명을 다할 것"이라고 말했다.

노경조 기자 felizkj@asiae.co.kr