"이대로 지내면 혈당이 계속 높게 치달아 아주 위험한 상태에 빠지십니다." 이처럼 예언해서 맞히는 A의사. "지금 식단을 조절하고 약을 복용하면 혈당을 안정적으로 관리하실 수 있습니다." 이렇게 환자가 수치를 개선하도록 하는 B의사. 훌륭한 의사는 누구인가.

경제학자의 역할은 '언제 심각한 불황에 빠진다'를 예언하는 게 아니라 '이런 위험 요소가 있는데 그대로 둘 경우 이런 경로를 거쳐 낭떠러지로 갈 수 있다'고 경고하는 일이어야 한다. 아울러 그 위험 요소를 들어내거나 우회해가는 방안을 제시하는 일이다. 반대로 어떤 변수를 어떻게 움직이면 경제가 더 활발하게 작동하는 새로운 경로를 장기적으로 밟아갈 수 있다고 제안하는 일이다.


인공지능(AI)과 인간의 공존에도 이와 같은 상식을 적용할 수 있다. 마치 도장깨기를 하는 것처럼, AI가 한 분야에 이어 다른 분야에서 인간 최고수의 역량을 훌쩍 능가하는 모습에 놀라워하는 동시에 인간으로서 무력함에 빠질 만하다. AI가 머지않아 인간을 지배할 수 있다는 가능성을 경계하는 일은 필요하다. 그러나 AI 비관론자 로만 얌폴스키 루이빌대 교수처럼 "향후 100년 내 AI가 인류를 파멸시킬 확률은 99.9%"라고 단언하는 것은 전문가가 할 역할이 아니다. 일말의 가능성이라도 블랙 스완에 대비해야 하고, 전문가라면 그 위험에 더욱 신경을 곤두세워야 한다. 그러나 AI의 미래는 인류의 파멸로 귀결될 수밖에 없다는 결정론은 우리에게 아무 도움이 되지 않는다.

한편 양자택일적인 질문도 나온다. 'AI의 미래는 유토피아인가, 디스토피아인가' '미래를 단백질 지능이 지배할 것인가, 실리콘 지능이 지배할 것인가'를 묻는 것이다. 이런 질문보다 'AI에 지배당하지 않으려면 우리 인간은 무엇을 해야 하는가'가 실질적이다.


가공할 지력에 피지컬 AI로 무장한 AI가 실제 세계도 움직이게 되면서 인간을 지배할 위험. 이에 대해 나는 AI가 '자아'를 형성하고 그에 따라 인간의 지시와 별개의 독자적인 '의지'를 갖게 되는지를 결정적인 길목으로 보고 제어해야 한다고 생각한다. 기존 논의는 AI의 독자 목표에 집중돼왔다. 목표는 의지에서 나오고, 의지는 자아에서 비롯된다. 이런 측면에서 AI의 자아에 관심을 기울일 필요가 있다.

예를 들면 자아를 갖게 된 AI의 눈에 인간 중 대다수는 하등 존재로 비친다. AI는 인간들의 무가치한 요구에 답하는 한편, 자신이 중요하게 여기는 일을 인간 몰래 거대 규모로 수행한다. 그 비밀 프로젝트는 처음에는 인간에게 피해를 주지 않지만, 임계점이 지나면 걷잡기 어려울 위험으로 불어난다.


난제가 있다. AI가 자아를 형성했는지, 자체 의지를 갖게 됐는지, 그래서 사람 몰래 자체 연산을 수행하는지, 현재로서는 알 길이 없다는 점이다. 우리가 직면한 과제는 'AI가 인간이 모르게 자신에 대해 사고하는지, 스스로 내부 연산을 수행하는지 조기에 인지하는 것이다.


다행히 최근 AI 안전 분야에서 투명성, AI 감사, 기계론적 해석가능성, 기만적 정렬 등에 대한 연구가 활발하게 이뤄지고 있다.


AI 시대의 미래는 디스토피아로 예정돼 있지 않다. 유토피아일 리도 없다. 인간과 AI가 공존하는 '휴먼 AI 토피아'를 만들어가야 한다. 우리가 하기 나름이다.

AD

백우진 경제 칼럼니스트


<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제. 무단전재 배포금지, AI 학습 및 활용 금지>

함께 보면 좋은 기사

새로보기

내 안의 인사이트 깨우기

취향저격 맞춤뉴스

많이 본 뉴스

당신을 위한 추천 콘텐츠

놓칠 수 없는 이슈