'생사람 잡은 AI'…안면인식 기술 오류로 절도범 누명을 썼다

고속도로 한복판에서 체포된 후 6일간 구금
"상대적으로 유색인종이 피해 봐" 지적도

미국에서 인공지능(AI)을 이용한 안면인식 기술의 오류 때문에 무고한 남성이 절도범으로 여겨져 6일 동안이나 구치소에 갇히는 억울한 일을 당했다.

31일(현지시간) 미국 일간 뉴욕타임스(NYT)에 따르면 조지아주 주민 랜들 리드(29)는 지난해 11월 애틀랜타에 있는 부모님 집을 방문하기 위해 자신의 지프 차량을 운전하던 중 고속도로 한복판에서 경찰에 체포됐다. 당시 경찰관은 리드의 차를 멈춰 세우고 운전면허증을 요구했다. 집에 면허증을 두고 왔던 리드는 자신의 이름을 밝혔지만, 경찰은 리드에게 "무기가 있느냐"고 물은 뒤 차에서 내리게 한 다음, 다른 경찰관 두 명의 도움을 받아 리드에게 곧바로 수갑을 채웠다.

경찰은 그가 지난 여름 루이지애나주 뉴올리언스의 한 상점에서 훔친 신용카드로 1만3000달러(약 1703만원) 상당의 명품 지갑과 가방을 구입했다는 혐의를 받고 있다고 말했다. 리드는 자신은 루이지애나에 가본 적도 없다고 항변했으나, 그는 곧 구치소에 수감되고 말았다.

안면인식 기기. 사진은 기사의 특정 내용과 관련 없음[사진출처=AFP 연합뉴스]

알고 보니 경찰은 상점 내 감시카메라에 찍힌 범인의 얼굴을 안면인식 기술로 분석한 결과, 리드를 유력한 용의자로 이미 특정하고 있었다.

안면인식 알고리즘이 페이스북, 링크드인 등에 올려진 리드의 사진과 감시카메라 속 범인의 모습이 유사하다는 판단을 내렸기 때문이다.

리드는 자신의 무고함을 밝히기 위해 수천 달러를 들여 변호사를 고용할 수밖에 없었다. 그는 변호사를 통해 절도 피해를 봤다는 가게의 폐쇄회로(CC) TV 영상을 직접 확인하고서야 누명을 벗게 됐다. 영상에 찍힌 용의자는 리드와 얼굴형이 비슷했으나 몸집이 크고 팔이 훨씬 더 굵었다. 검거 5일 후, 경찰은 절도범에게는 없는 얼굴의 점을 리드에게서 발견했기 때문에 영장을 철회한다고 알렸다. 이는 공교롭게도 리드 측 변호사가 관련 자료를 제출한 지 한 시간여 만에 이뤄진 일이었다.

6일간의 억울한 옥살이 끝에 풀려난 리드는 "내가 저지르지도 않은 일 때문에 구치소에 갇혀 있었던 데다 수천 달러까지 써야 했다"고 억울해했다. 그는 경찰 등을 상대로 부당 체포 소송 제기를 고려하고 있다.

NYT는 이번 사건에 대해 정확한 범죄자 추적에 도움을 주기 위해 개발된 여러 기술이 오히려 잘못된 사람을 체포하게 만들 수 있다는 위험성을 보여준다고 말했다. 미국의 안면인식 기술 업체 클리어뷰 AI 대표 호안 톤 댓도 "안면 인식 기술만을 가지고 체포해선 안 된다"라며 "이 기술은 어디까지나 보조적 역할을 하는데 머물러야 하고 다른 요인을 바탕으로 올바르게 식별되었는지 조사해야 한다"고 강조했다.

사법기관의 안면인식 기술 오류로 인한 피해는 상대적으로 유색인종이 더 크게 보고 있다는 지적도 나오고 있다. 안면 인식 기술 전문가인 클레어 가비에 따르면 공개적으로 알려진 다른 4건의 부당 체포 사례가 있으며, 리드는 물론 이들 4명은 모두 흑인 남성이었다.

인종차별 반대 운동을 펼치고 있는 단체 '컬러 오브 체인지'의 대표 라샤드 로빈슨은 "AI 안면인식 기술은 '인종주의 치안'이라고 불리는 문제를 악화시킨다"며 "안면 인식이 백인을 잘못 인식했다면 더는 자리를 차지하고 있지 못했을 것"이라고 비판했다.

김현정 기자 khj27@asiae.co.kr