페이스북, '리벤지 포르노' 검열에도 매일 16,000 건 올라와

페이스북이 인공지능(AI)을 이용해 '리벤지 포르노'(Revenge Porno) 차단에 나섰음에도 매일 16,000건 이상의 리벤지 포르노를 보고받고 있는 것으로 나타났다./사진=연합뉴스

[아시아경제 김수완 인턴기자] 페이스북이 인공지능(AI)을 이용해 '리벤지 포르노'(Revenge Porno) 차단에 나섰음에도 매일 16,000건 이상의 리벤지 포르노를 보고받고 있는 것으로 나타났다.

리벤지 포르노는 헤어진 연인에게 보복하기 위해 성 관련 동영상이나 사진 등을 동의 없이 인터넷에 무차별적으로 뿌리는 디지털 성범죄다.

미국 NBC 등 외신에 따르면 18일(현지시간) 페이스북이 개인의 동의 없이 업로드한 성적인 사진 등을 신속하게 식별하고 삭제하려 노력했음에도 불구, 매달 약 50만 건의 리벤지 포르노 보고를 받고 있는 것으로 조사됐다.

이 보고서에는 다른 사람을 보복하기 위해 게시한 성적인 사진과, 누군가를 협박하기 위해 성적인 사진을 사이트에 업로드하는 이른바 '몸캠 피싱' 계정도 있는 것으로 알려졌다.

페이스북은 이 같은 리벤지 포르노 유입에 대처하기 위해 25명의 전문가들을 고용해 팀을 구성했다.

해당 팀은 성적인 사진을 식별하기 위해 개발된 알고리즘과 함께 조사 보고서를 통해 성적인 사진과 영상들이 동의 없이 유포되는 것을 사전에 적발했다.

미국 NBC 등 외신에 따르면 18일(현지시간) 페이스북이 개인의 동의 없이 업로드한 성적인 사진 등을 신속하게 식별하고 삭제하려 노력했음에도 불구, 매달 약 50만 건의 리벤지 포르노 보고를 받고 있는 것으로 조사됐다./사진=연합뉴스

앞서 페이스북은 피해자들에게 문제의 사진이나 영상을 사전에 제출하도록 요청한 기존 방식의 실수를 개선하기 위해 노력해왔다.

당시 페이스북은 제출된 사진이나 영상을 식별 및 분석해 차후 동일한 콘텐츠가 올라오지 못하도록 제거하는 수단으로 활용했다.

한편 일부에서는 페이스북에서 일하는 콘텐츠 검토자들이 피해자들의 사진을 볼 수 있을지 의문을 제기하면서 이 프로그램에 대해 대부분 부정적인 반응을 보였다.

리벤지 포르노의 피해자 니콜 브르지스키는 NBC와의 인터뷰를 통해 "이 도구는 도움 되는 것처럼 들리겠지만, 이내 이 사진들을 다른 사람들과 공유한다는 생각이 들 것"이라고 말했다.

이어 "우리는 이미 너무 불편하고 정신적 충격을 받았다. 나는 이 사진들이 다시 유출될까봐 두려웠기 때문에 시도하지 않았다"며 "누군가 그 사진들을 보고 있는지 누가 압니까?"라고 반문했다.

이에 페이스북은 제공된 이미지를 사진 형태로 카탈로그화하지 않고, 인스타그램(Instagram)과 왓츠앱(WhatsApp) 등 이미지를 식별하기 위해 사용하는 해시(Hash)라고 불리는 디지털 지문 형태로 변환한다고 밝혔다.

김수완 인턴기자 suwan@asiae.co.kr