페이스북에서 '김치녀'는 되고 '한남충'은 안 되는 이유

페이스북 콘텐츠 차단 기준 '커뮤니티 규정' 소개
AI로 차단율 높였지만 혐오표현은 여전히 사람 역할 중요
'맥락' 이해하고 처분해야 하기 때문…전 세계 전담인력 1만5000명 배치

유동연 페이스북 콘텐츠 정책 매니저(제공=페이스북코리아)

[아시아경제 이민우 기자] "'한남충'은 일반 한국 남자 전체를 대상에 대한 혐오표현이라 차단되지만 '김치녀'는 일부 여성을 지칭하기 때문에 차단 대상이 아닙니다."

페이스북코리아는 28일 서울 강남구 페이스북코리아에서 기자간담회를 열고 페이스북 콘텐츠 허용 규칙인 '커뮤니티 규정'에 대해 소개했다. 페이스북은 지난해 4월부터 전 세계에 동일하게 적용되는 커뮤니티 규정을 공개하고 집행 내역을 공개하고 있다. 유동연 페이스북 콘텐츠정책 매니저는 "커뮤니티 규정은 안전과 이용자들의 의견 반영, 공정함을 근간"이라며 '페이스북 내부의 엔지니어링, 정책, 프라이버시, 인권담당팀은 물론 외부 규제기관, 학계, 시민사회 등과 논의를 통해 적용되고 있다"고 설명했다.

규정의 세부 항목은 크게 ▲가짜계정 ▲스팸 ▲성인 나체이미지 또는 성적인 행위 ▲폭력·자극적 콘텐츠 ▲테러 선전 ▲혐오발언 ▲따돌림·집단괴롭힘 ▲마약판매 ▲아동 나체 이미지 및 아동 성착취 ▲자살 및 자해 등으로 나뉜다. 이 규정을 어기면 이용자의 신고가 1건이라도 차단되며, 어기지 않을 경우에는 신고가 많아도 차단되지 않는다.

페이스북은 인공지능(AI) 기술을 적용에 각 항목의 사전 조치 비율을 대부분 90% 이상으로 높였다. 하지만 혐오발언(80.1%), 따돌림·집단괴롭힘(16.1%)은 타 항목대비 저조했다. 유 매니저는 "하루 신고가 100만건이 넘지만 가짜 계정이나 스팸, 나체 사진과 동영상 등은 AI가 무척 정확하게 걸러낼 수 있다"며 "반면 따돌림과 혐오 발언 등은 맥락과 주변 환경 등에 따라 달라질 수 있어 사람이 직접 판단해야 한다"고 설명했다. 페이스북이 전 세계에 이용자 신고를 검토하는 전담인력 1만5000명을 배치한 이유다.

사람이 직접 판단하는 만큼 논란도 있어왔다. 앞서 페이스북은 '김치녀' 페이지는 차단하지 않은 반면 '한남충' 페이지는 차단해 '블루 일베'라는 논란이 불거진 바 있다. 이에 대해 유 매니저는 "혐오발언을 크게 인종, 종교, 국적, 성적 정체성, 카스트(인도의 신분제도), 성별, 민족, 질병, 성적 취향 등으로으로 구분하고 해당 항목에 대한 공격적인 발언을 혐오발언으로 규정하며 차단하고 있다"며 "'한남충'은 한국 남자 전체를 비하하는 단어인 반면 '김치녀'는 특정 행태를 보이는 여성 일부를 지칭하는 말이기 때문에 혐오발언으로 분류하지 않았다"고 설명했다. 이어 "다만 김치녀 페이지도 게시물 삭제 사례가 누적되면 삭제될 수 있다"고 덧붙였다.

한편 페이스북은 AI를 통한 차단을 점차 늘려갈 계획이다. 올 3분기 중 발견돼 삭제된 가짜계정은 17억개, 스팸성 게시물은 19억개지만 99%이상이 AI로 적발돼 사전차단됐다. 소피 보겔 페이스북 아시아태평양 정책 커뮤니케이션 매니저는 "AI가 이제는 프로그램이 아니라 실제 사람이 가짜 계정을 악용하는 경우도 잡아낸다"며 "AI를 활용한 악성 콘텐츠 관리를 늘려갈 것"이라고 강조했다.

이민우 기자 letzwin@asiae.co.kr