[데스크 칼럼] 똑똑한 괴물

한적한 길을 달리던 자동차가 행인을 치어 숨지게 했다. 뺑소니는 아니다. 사고 순간이 블랙박스에 녹화됐다. 보통의 교통사고라면 사고 수습은 간단하다. 블랙박스 영상을 살피고 운전자를 상대로 진술을 받으면 된다. 전방주시를 제대로 했는지, 졸음운전은 아닌지. 그런데 운전자가 사람이 아니라 인공지능(AI)이라면.

우버의 자율주행차가 사망 사고를 낸 지 17일째. 사고 원인은 여전히 안갯속이다. 우버 사고 5일 뒤에는 테슬라가 비슷한 사고를 냈다. AI는 왜 사고를 막지 못했는지, 브레이크는 어째서 작동하지 않았는지, 질문은 쏟아지는데 해답은 오리무중이다. 확실한 것은 이거뿐. 사고를 낸 AI는 죄책감을 느끼지 않는다는 사실. 그로 인한 낭패감은 온전히 인간의 몫이다.

지난 2월9일 미국 다우지수가 4.15% 급락했다. 사흘 뒤에는 또 다시 4% 하락했다. 주식 시장의 갑작스러운 붕괴 '플래시 크래시(flash crash)'의 주범도 AI였다. 주식 거래에서 AI는 다양한 주가 변수의 알고리즘을 기반으로 스스로 매매를 하는데 여기에 '폭탄'이 숨어 있다. 알고리즘 구조가 저마다 비슷해 어떤 상황, 어느 조건에서는 AI들이 한꺼번에 방아쇠를 당긴다는 것이다. 노련한 트레이더들이라면 서로 다른 선택을 할 테지만. 그 바람에 플래시 크래시가 발생할 확률만 높아졌다.

실은 이번이 처음도 아니다. 2010년 5월6일 다우지수가 5분여 만에 9.2% 급락하면서 1조달러가 허공으로 사라졌다. 증권사 입장에서야 고액 연봉의 트레이더 대신 AI에 일을 맡겨 인건비를 줄이고 단타 거래를 유도하는 것이 이익일지 모른다. 게다가 '방아쇠를 당긴' AI가 죄책감에 시달릴 이유도 없다. 다만 주주들만 고통스러울 뿐.

AI 자동차가 사람을 치고 AI 트레이더가 주주들의 돈을 날려버리는 사태는 근본적인 물음으로 귀결된다. 과연 AI는 인류의 친구일까, 적일까. AI의 계산 능력을 의심하는 것은 아니다. 인간의 상상을 뛰어넘는 신속성과 정확성, 효율성. 하지만 결정적인 게 빠졌다. 책임감.

행동심리학에서 '후회'는 '책임감'과 직결된다. 심리학자 배리 슈워치는 "후회는 자신의 실수로 기회를 잃어버렸다는 생각, 그런 자책을 통해 실수를 고쳐나가려는 욕구를 강하게 만든다"며 "후회는 책임을 느껴야 경험할 수 있고, 책임이 클수록 후회를 무겁게 받아들인다"고 결론 내렸다. <오류의 인문학> 저자 캐서린 슐츠는 "후회를 느끼지 못하는 것은 반사회적 인격 장애의 특성"이라며 "인간적이고자 한다면 후회 없이 사는 게 아니라 잘 후회하면서 사는 법을 배워야 한다"고 조언했다. 이들의 주장을 AI에 적용하면 이렇다. 만약 AI가 '후회'라는 감정을 갖고 있다면 무책임한 결정을 반복적으로 내리지는 않을 것이다.

복잡한 숫자를 다루고, 수많은 데이터를 분석하는 일은 AI가 잘하겠지만 딱 거기까지다. 영감을 얻고, 가치 판단을 내리고, 그 결단에 책임을 지는 것은 인간만이 할 수 있다. 똑똑하지만 창의적이지 않고, 많은 일을 하지만 무책임하며, 자신의 실수를 후회하지 않는 AI. 우리는 그런 존재를 어떻게 봐야 할까.

이 질문의 실타래는 결국 우리를 향한다. AI 개발이 컴퓨터 공학이 아닌 사회 윤리와 도덕적 관점에서 이뤄져야 한다는 것. 프로그래머 몇이 모여 AI 알고리즘을 짜는 게 아니라 사회학자, 윤리학자들이 함께 고민해야 한다는 것. AI 비관론자인 닉 보스트롬 옥스포드대 교수의 말을 빌리면 "윤리와 도덕처럼 인간의 소중한 가치들을 정교하게 AI에 가르쳐야 한다." 그렇지 않으면 AI는 '똑똑한 괴물'이 되고 만다.

이정일 4차 산업부장 jaylee@