bar_progress

아시아경제 최신 기획이슈

"n번방 사태 네이버에선 불가능"…음란물 저격수 '엑스아이'

최종수정 2020.07.14 11:03 기사입력 2020.07.14 10:16

댓글쓰기

"n번방 사태 네이버에선 불가능"…음란물 저격수 '엑스아이'


[아시아경제 부애리 기자] 네이버 카페에 여성의 전라 사진이 올라오자마자 인공지능(AI) '엑스아이(X-eye)'가 즉각 탐지해 삭제한다. 사진이 올라오는 것부터 삭제까지가 거의 실시간으로 이뤄진다. 동시에 문제의 사진을 올린 아이디는 '영구제한' 조치를 받아 카페 이용이 차단된다.


엑스아이는 엑스레이에서 이름을 따왔다. 네이버 카페 등을 속속들이 들여다보면서 음란물을 차단하겠다는 의미다. 기자에게 엑스아이의 작동 시연을 보여준 임남정 네이버 UGC모니터링운영 리더는 14일 "네이버에서 n번방 같은 일이 발생하는 것은 불가능하다"고 말했다. UGC모니터링운영은 이용자가 올린 콘텐츠 가운데 불법 게시물을 차단하는 조직이다. 임 리더는 "기존에 사람이 필터링할 때는 10분 정도 노출 시간이 있었지만 엑스아이는 노출 시간을 '제로'로 하는 것이 목표"라고 덧붙였다.

임남정 네이버 UGC모니터링운영 리더

임남정 네이버 UGC모니터링운영 리더


◆음란물 실시간으로 차단= 최근 성착취물을 공유하는 텔레그램 n번방의 실체가 드러나면서 네이버는 음란물 관리를 한층 강화하고 있다. 네이버는 인공신경망이 적용된 엑스아이에 수백만장의 이미지를 40여가지 유형으로 분류해 학습시켰다. 기존에는 데이터베이스에 있는 사진과 일치율을 계산하는 방식이었다면 엑스아이는 이미지를 조각낸 뒤 색감과 형태 등을 분류하고 특징을 추출해 음란물 여부를 스스로 판단한다. 네이버는 엑스아이가 아기사진이나 의학사진 같은 신체노출이 있는 일상사진 등은 따로 '정상'으로 인지하도록 학습시켰다. 엑스아이의 정확도는 현재 99% 수준까지 발전했다. 임 리더는 "사람이 다시 한 번 체크하는 과정까지 거치기 때문에 오판율은 0%에 가깝다"고 자신했다. 음란물이 철저히 차단되면서 네이버의 유해게시물신고건수도 엑스아이 도입 전과 비교해 92% 가량 감소했다.

이는 구글과 트위터 등 해외 서비스에서 음란물 논란이 끊이지 않는 것과 비교하면 더욱 도드라진다. 방송통신심의위원회에 따르면 2016년부터 올해 2월까지 해외사업자의 디지털 성범죄물 8만5818건 가운데 이들 사업자가 방심위의 요청에 따라 자체적으로 삭제한 디지털 성범죄물은 2만7159건으로 32%에 불과했다.




◆스팸 이미지 차단하는 엑스아이2= 지난 5월 'n번방방지법'이라 불리는 전기통신사업법·정보통신망법 개정안이 통과되면서 네이버도 이에 대한 대비가 한창이다. 개정안은 인터넷 사업자에 대한 디지털 성범죄물 삭제 의무를 지게 하는 내용이 골자다. 임 리더는 "엑스아이의 정확성을 더욱 높여가는 동시에 몰카와 같은 불법 촬영물에 대한 조치를 더 빨리 대응할 수 있도록 신고체계를 강화해 운영할 예정"이라고 설명했다.


네이버는 엑스아이의 기술적인 업그레이드도 준비하고 있다. 기존 40개 유형을 학습한 엑스아이가 향후 130개 유형이 학습돼 음란물과 불법 게시물에 대한 더 구체적인 분류가 가능해진다. 기존에는 음란물 이미지만 걸러냈다면 향후 이미지를 활용한 홍보게시물 일명 '스팸 이미지'까지 유형으로 분류해서 필터링이 가능해지는 식이다. 임 리더는 "내년에는 엑스아이 2.0를 오픈할 예정"이라면서 "n번방방지법 통과 등 사회적 변화에 맞춰 기술적인 노력을 계속 해나갈 것"이라고 밝혔다.



부애리 기자 aeri345@asiae.co.kr

<ⓒ경제를 보는 눈, 세계를 보는 창 아시아경제(www.asiae.co.kr) 무단전재 배포금지>

간격처리를 위한 class