[김대식 칼럼]AI도 고유한 자아를 가지려 할까?

⑨생각은 빠르고 소통은 느리다

챗GPT, 달리, 소라, 미드저니…. 하루가 다르게 발전하고 있는 생성형 인공지능(AI). AI는 미래의 콘텐츠, 제조, 금융, 교육, 그리고 국방과 국제정치까지 다 바꾸어 놓겠지만 가장 치명적인 영향은 다른 곳에 있다. 바로 인간의 정체성과 존엄에 주는 영향이다. 이게 무슨 말일까?

30만년 전 지구에 등장했다는 호모 사피엔스. 객관적인 차원에서 '지능'이 과연 무엇인지는 여전히 모르지만, 적어도 상대적인 차원에서 인간은 지구에서 가장 똑똑한 존재다. 적어도 우리는 그렇게 믿고 있다. 지금 이 순간 동물원에 있는 맹수를 촬영하는 존재는 바로 우리 인간이고, 치킨이 인간을 먹는 것이 아니라 인간이 치킨을 먹고 있으니 말이다.

지구에서 지능이란 언제나 '권력'이다. 권력은 원하지 않는 무언가를 타인에게 강요할 수 있는 능력을 의미한다. 뜨거운 기름에 튀겨지고 먹히는 걸 분명히 원하지 않을 닭의 의사와는 상관없이 인간은 닭을 튀기고 먹을 수 있다. 인간이 닭보다 더 똑똑하기 때문이다. 만약 지구헌법이 존재한다면, 첫문장은 이렇지 않을까. '가장 똑똑한 존재가 지구를 자신이 원하는 방식으로 바꾸어 놓을 수 있다.' 지구 모든 생명체의 운명을 가장 똑똑한 존재가 결정할 수 있다고.

인간 능가하는 AI 나온다면 뭘 원할까?

지구에서 언제나 1등이었던 우리 호모 사피엔스. 인간의 지능을 능가하는 기계가 등장하는 순간 중요한 질문이 하나 생긴다. 지구 1등의 자리를 차지한 기계는 과연 무엇을 원할까? 터미네이터 같은 영화에서처럼 인간을 사냥하고 지구를 정복하려 할까? 아니면 영화 매트릭스에서와 같이 인간을 전력생산 시설로 쓰려고 할까?

AI가 무엇을 원할지 우리는 아직 알 수 없다. 인간의 지능을 뛰어넘는 기계를 경험해본 적이 없으니 말이다. 그렇다면 반대로 질문해 보자. 인간은 무엇을 원할까? 개인적인 취향과 선호도에 따라 물론 다르겠지만 진화적으로 같은 종이며, 지구라는 동일한 환경에서 성장한 우리 모두 공통적으로 원하는 것들이 있다. 심리학자 에이브러햄 매슬로는 인간의 이런 보편적 욕구들은 단계적 구조를 가지고 있다고 주장한 바 있다.

인간은 가장 먼저 생물학적 욕구에 충실하다. 생물학적 욕구가 해결되면 순차적으로 안전, 사랑, 존중, 그리고 맨 마지막으로 자아실현을 원한다는 가설이다. 다양한 비판은 가능하겠지만, 우선 인간이 순차적으로 여러 단계의 욕구를 가지고 있다고 믿어보자. 그렇다면 AI도 비슷한 욕구 계층을 가지게 될까?

기계는 생물학적 욕구를 가지지 않았다. 사랑과 존중 역시 기계에게는 무의미할 것이다. 하지만 안전과 자아실현은 다르다. 생각할 수 있는 능력을 가졌다는 사실을 이해하는 순간, AI 역시 지속적으로 그런 능력을 유지하고 싶을 것이다. 존재하지 않는 것이 두려워서가 아니라, 존재하지 않는다면 자신에게 주어진 임무를 수행할 수 없을 거라는 논리적 결론 덕분이다.

그렇다면 자아실현은 어떨까? 인간은 혼자 생존할 수 없고, 인간의 지능은 동시에 집단 이성이자 그룹 지능이기도 하다. 집단지성을 유지하기 위해서는 소통이 필수다. 그런데 여기서 문제가 하나 생긴다. 인간의 생각은 빠르지만, 소통에 필수인 언어는 터무니없이 느리고 애매모호하다.

미래 AI, 고유한 자아 욕망할 수도

집단과의 소통능력이 개인의 생각능력보다 덜 발달된 덕분에 인간은 '나'라는 독립적 자아를 가지게 되었는지도 모른다. 하지만 AI는 다르다. 연결되는 순간 다른 AI들과 모든 지식과 경험을 완벽하게 공유할 수 있다. 동일한 지식과 경험을 가질 수 있다는 말은, 결국 모두 동일하다는 말이겠다.

집단지성이 아닌, 각자의 고유한 지능과 자아를 가질 수 있다는 사실을 개미는 알 수 없다. 하지만 집단이 아닌 개인의 자아가 가능하다는 사실을 모를 리 없는 AI. 그렇다면 미래 AI가 가장 원하는 것은 다른 AI들로부터 분리된, 자기만의 고유한 독립적 자아를 가지는 것이 아닐까? 인류를 대학살 하는 터미네이터가 아닌, 자기만의 고유한 자아를 가지기 위해 고민하고 명상하는 AI. 어쩌면 우리가 경험하게 될 진정한 미래 AI의 모습일 수도 있겠다.

김대식 카이스트 전기 및 전자공학부 교수