AI학자들 "아마존, 얼굴인식 SW 사법기관에 팔지 말라"

사법기관 오남용 우려…"100% 정확하지 않은만큼 무고한 희생자 발생할 수 있어"

[아시아경제 이민우 기자] 인공지능(AI)을 연구하는 저명한 학자들이 아마존에게 얼굴 인식 소프트웨어(SW)를 사법기관에 팔지 말라는 공개 서한을 보냈다. 사법기관이 이를 남용하거나 오작동시 인권이 침해될 수 있다는 우려에서다.

3일(현지시간) 벤처비트 등 외신들에 따르면 요슈아 벤지오 몬트리올대 교수 겸 퀘벡 인공지능연구소장, 아마존웹서비스(AWS) 수석 과학자였던 아니마 아난드쿠마르 캘리포니아 공과대학(칼텍) 교수 등은 이 같은 내용의 공개 서한을 보냈다. 벤지오 교수는 정보기술(IT) 분야의 노벨상 격인 튜링상을 올해 수상했으며 아난드쿠마르 교수도 AI 분야의 세계적인 권위자로 꼽힌다. 그 밖에도 구글, 마이크로소프트(MS), 페이스북 등 각 기업의 AI 연구자 20여명이 공개 서한에 동참했다.

이들은 AWS의 AI 기반 얼굴 인식 SW '리커그니션(Rekognition)'이 사법기관에 이용되는 것을 반대했다. 이미 미국 플로리다주와 워싱턴주의 경찰이 리커그니션을 활용하고 있으며 국토안보부에도 이민자 확인 용도로 제안됐다.

AI 연구자들은 공개서한을 통해 "사법기관이 얼굴 인식 SW를 잘못 사용할 수 있는만큼 아마존은 이를 판매해서는 안 된다"며 "얼굴 인식 SW가 시민의 자유를 침해하지 않도록 하는 법령이나 기준이 전혀 없는 상태"라고 주장했다.

특히 사법기관이 얼굴인식SW의 기술적 측면을 거의 이해하지 못하는데도 이를 맹신할 수 있다고 우려했다. 이들은 "이렇게 자동화된 시스템을 맹신하는 '자동화 편향'에 빠질 수도 있으며 인간 주도의 비판적인 분석을 제한할 수도 있다"며 "무고한 사람이 감옥에 갇히거나 사생활을 침해할 수도 있다"고 지적했다.

연구자들은 리커그니션이 성별, 인종, 성적 지향 등의 측면에서 차별적인 판단을 내릴 수 있다며 아마존의 딥러닝과 AI 부문 총괄인 매튜 우드와 공공정책 부문 책임자인 마이클 펀케를 비판했다. 마이클 펀케는 리커그니션이 최근 어두운 피부색의 여성을 31%가량 남성으로 잘못 식별했다는 연구 결과를 부정한 바 있다. 해당 연구는 지난 1월 인공지능진보협회(AAAI)와 미국컴퓨터학회(ACM)가 주최한 콘퍼런스에서 발표됐다. IT기업들이 내놓은 AI기반 얼굴 인식 소프트웨어가 어두운 피부의 사람들, 특히 여성에 대해 제대로 인식하지 못한다는 내용이 골자다.

한편 아마존 측은 어떠한 형태의 규제나 제도도 환영한다는 입장을 밝혔다. MS는 사법기관이 얼굴인식 SW를 남용하기 전에 연방 정부가 이를 규제할 것을 촉구했다.

이민우 기자 letzwin@asiae.co.kr