[기하영의 야간비행]경제불평등 불러오는 '빅데이터'를 고발하다

캐시오닐 저 '대량살상수학무기'

[아시아경제 기하영 기자]"미래에는 알고리즘이 우리 삶을 지배할 것이다." '사피엔스'의 저자 유발 하라리는 최근작 '호모데우스'에서 미래의 인류는 데이터교의 지배를 받을 것이라 예측했다. 빅데이터와 수학, IT가 결합해 만들어진 알고리즘이 우리 삶을 지배하는 종교가 될 것이란 인문학적 고찰이다.

'대량살상수학무기'는 이 같은 유발 하라리의 예측을 실제 사례를 통해 촘촘히 증명해낸 책이다. 이 책의 저자 캐시 오닐은 수학자이자 데이터 전문가다. 하버드대학과 매사추세츠공대에서 수학박사와 박사후과정을 이수한 뒤 젊은 나이에 수학연구로 유명한 버나드칼리지 종신교수가 된다. 이후 세계적인 헤지펀드 업체 디이 쇼에서 선물거래팀을 이끌고 IT업계에서 데이터과학자로 일하면서 빅데이터 경제가 불평등을 확산하고 민주주의를 위협하다는 사실을 깨닫는다. 바로 이 점이 "빅데이터 업계의 내부고발자의 책('타임' 서평)"이란 평가를 받으며 이 책이 지난해 출간부터 지금까지 뜨거운 논란을 일으키는 이유다.

저자는 수학이론, 빅데이터, IT기술이 결합해 만들어낸 빅데이터 모형이 정치는 물론 교육, 노동, 서비스, 행정, 보험 등 우리가 상상할 수 있는 모든 분야에서 막대한 영향력을 행사하고 있다고 지적한다. 특히 누가 어떤 목적으로 사용하는가에 따라 알고리즘이 전혀 다른 얼굴을 가질 수 있다는 점에 주목했다. 인종차별, 빈부격차, 지역감정 등 인간이 가진 편견과 차별 의식을 그대로 코드화한 알고리즘을 사용하는 모형은 대량살상무기만큼 위험하다는 뜻에서 이를 대량살상수학무기라고 명명했다.

불투명성, 확장성, 피해의 악순환. 대량살상수학무기의 특징은 3가지로 요약된다. 알고리즘 내부는 공개되지 않는다. 이 같은 불투명성 때문에 개발자 이외에는 숨겨진 평가 기준을 알 수 없다. 또 하나의 모형은 다른 영역으로 계속 확장된다. 대출이나 신용카드 발급 등에 쓰이던 신용평가 점수가 취업, 보험, 결혼에까지 평가 잣대로 쓰이는 것이 그 예다. 알고리즘에 의해 작동되는 시스템은 자신의 기준에 맞춰 사람을 수치화하고 분류한다.

책에는 이 같은 사례들이 자세하게 기술 돼있다. 미국 교사평가시스템인 임팩트는 학업성취도가 아닌 시험점수만으로 교사들을 평가한다. 학생들과 부모들에게 좋은 평판을 받는 우수한 교사도 학생들의 시험점수가 낮으면 쫓겨나게 된다. 자연스레 교사들은 학생들에게 교육자적인 관심을 쏟기보다는 시험 준비에 열을 올린다. 심지어 시험답안을 수정하는 등 부정행위도 집단적으로 이뤄졌다.

한국 역시 우리도 모르는 사이 이미 대량살상수학무기의 공격은 시작됐을지도 모를 일이다. 이에 대한 저자의 대안은 간명하다. 바로 투명성확보와 도덕성이다. 그는 책 말미에 다음과 같이 조언한다.

"데이터가 지구상에서 사라지는 날은 오지 않을 것이다. 수학은 말할 것도 없고 컴퓨터도 영원히 인류와 함께할 것이다. 예측 모형들은 우리가 제도적 시스템을 운영하고 자원을 배치하고 우리의 삶을 관리하기 위해 갈수록 더욱 의지해야 하는 도구가 될 것이다. 그러나 이 책을 통해서 내내 설명했듯 그런 모형은 비단 데이터뿐만 아니라 우리가 어떤 데이터에 관심을 기울이고 어떤 데이터를 배제할지에 관한 선택을 토대로 만들어진다. 당연히 물류, 이익, 효율성과 관련된 선택도 있지만 본질적으로 그런 선택은 도덕과 관련 있다.(358쪽)"

기하영 기자 hykii@asiae.co.kr