페이스북, AI로 자살 방지한다

페이스북 포스트에 자살 징후 나타나면 지역 기관에 알려 방지
"현재는 미국에만 배포, 앞으로 적용 지역 늘려갈 것"

[아시아경제 임온유 기자] 페이스북이 인공지능(AI)을 통해 자살을 암시하는 사용자를 찾아내고, 이를 지역 기관에 알려 자살을 방지하는 프로그램을 도입한다.

28일(현지시간) 미국 로이터 통신 등에 따르면 페이스북은 지난 3월부터 미국 사용자를 대상으로 패턴인식 소프트웨어를 활용한 자살방지 프로그램을 시험 중이다.

사전 방지라 불리는 이 프로그램은 특정 사용자의 페이스북 포스트에 자살 의지를 나타내는 문구, 행동 등이 나타날 경우 AI가 이를 포착해 페이스북 서비스팀에게 알리고 이들이 지역의 기관에 연락하는 방식으로 운영된다.

페이스북은 이 프로그램에 사용되는 구체적 기술을 공개하지는 않았으나 '괜찮니?(Are you ok)', '내가 도와줄까?(Can I hep)' 등 자살의 실마리가 될 수 있는 댓글까지도 스캔 대상에 포함시킨 것으로 알려졌다.

페이스북은 이외에도 사용자가 타인의 자살 징후를 감지할 경우 신고할 수 있는 시스템도 마련했다.

가이 로젠 페이스북 제품기획 부사장은 "테스트가 성공적으로 이루어졌기에 페이스북은 이 프로그램을 미국에 이미 배포하기 시작했다"며 "앞으로 이외 지역에도 이를 확산할 것"이라고 말했다. 페이스북은 이를 위해 각지 언어를 사용할 수 있는 서비스 팀원을 채용할 계획이다. 로젠 부사장은 "이 문제에 있어 가장 중요한 것은 속도"라며 "페이스북은 실시간으로 이 문제를 다뤄내야 한다"고 말했다.

한편 페이스북은 지난해 라이브 방송 서비스 출시 이후 콘텐츠의 잔혹성 등으로 곤욕을 치렀다. 자살이나 살인 등이 실시간으로 방송되면서 사회적 문제를 불러일으켰다. 이에 페이스북은 라이브 방송을 모니터링 할 3000명을 고용하겠다고 밝힌 바 있다.

임온유 기자 ioy@asiae.co.kr