네이버, AI로 문장 맥락 분석해 악성댓글 막는다

비속어 없어도 모욕적인 댓글은 블라인드 처리

[아시아경제 이진규 기자] 네이버가 인공지능(AI) 기술로 문장 맥락까지 분석해 악성 댓글을 가려낸다.

네이버는 AI가 악성 댓글 노출을 막는 'AI 클린봇'을 고도화했다고 19일 밝혔다. AI 클린봇은 그동안 욕설과 비속어가 들어간 댓글을 자동으로 탐지해 블라인드 처리해왔다. 지난해 4월부터 웹툰과 쥬니버, 스포츠, 뉴스 등에 잇달아 적용됐다.

고도화된 AI 클린봇은 이날부터 악성 댓글 판단 기준을 욕설 단어에서 문장 맥락으로 확대했다. 이에 따라 비속어가 없어도 문장 맥락을 고려해 모욕적이라고 판단되면 블라인드 처리된다. 네이버 측은 "악성 댓글 빅데이터를 기반으로 축약어와 오탈자가 많은 구어체 댓글의 특성을 분석했다"고 전했다.

AI 클린봇은 악성 댓글 상습 작성자도 자동으로 판단한다. AI 클린봇이 인지한 악성 댓들 상습 작성자는 일정 기간 댓글 서비스를 이용할 수 없게 제한된다.

한편 네이버는 댓글 작성 가능 개수와 공감을 누를 수 있는 한도를 제한하는 정책을 준비 중인 것으로 알려졌다.

이진규 기자 jkme@asiae.co.kr