[IT칼럼]내쉬균형과 혼돈의 시대

양현미 서울대학교 수리과학부 객원교수

인류는 새로운 기술들이 나올 때마다 그것을 통제하는 방법을 찾아 왔다. 혹시 모를 부작용과 그것이 모든 관련자들에게 미칠 영향을 미리 탐색하고 사전 예방할 수 있는 규약에 모두가 동의하는 방식이다. 그런데 최근 나온 연구 결과에 의하면 이런 전통적 규제의 방법은 가속화하는 과학 기술의 변화에 더 이상 효과적이지 않다고 한다.

사람들은 법과 사회적 질서, 그리고 국제협약 등을 통해 기술의 혜택을 취하면서도 동시에 환경과 사회 전반에 미칠 악영향을 최소화하는 길을 찾는다. 이런 규약의 방법을 탐색하는 과정에서 우리는 종종 현대 게임이론의 꽃이라 불리는 내쉬균형(Nash Equilibrium)에 의존해왔다.

존 내쉬(John Nash)는 내쉬균형 이론으로 1994년 노벨 경제학상을 받은 천재 수학자다. 영화 '뷰티풀마인드'로 일반인에게도 잘 알려져 있다. 그의 이름을 딴 내쉬균형은 게임에서 경쟁자들 간 벌어질 상호 위협과 반응의 역학관계를 미리 예측, 수립된 각자의 전략들이 모두에게 최적의 선택이 돼 그 중 누구 하나가 욕심을 부려봤자 결국 자기 손해가 되는, 즉 '균형'상태에 이르게 됨을 증명한 이론이다.

이런 균형 상태에 이르기 위해서는 각 경쟁자들이 자기와 다른 모든 이들이 취할 액션으로 인한 후속 상황이 예측 가능해야 한다. 예를 들면 냉전 체제에서 핵보유 국가들 중 어느 하나가 다른 국가를 공격한다면 결국 공멸하게 될 수밖에 없다는 예측이 가능하므로 모두가 팽팽한 균형을 이룰 수밖에 없는 것과 같다.

이제 과학 기술의 발전은 너무나 복잡하고 그 변화의 속도가 나날이 증가해 어떤 새로운 기술이 우리에게 미칠 후속 상황 같은 것은 상상도 하기 힘들어지고 있다. 인공지능(AI)의 등장이 현재 가장 예측 불가능한 영역이고 스마트폰, 인터넷, 소셜네트워크서비스(SNS), 사물통신, 바이오테크, 가상현실(VR) 등 수많은 기술 영역들이 빛의 속도로 동시다발적 진화를 하고 있는 상황이다. 우리는 이 모든 것들로 인한 복합적인 결과, 그 후유증 등을 미리 예측하고 방지할 수 있는 규약이나 규제를 찾을 수 없다.

최근 나온 디미트리쿠스 네조프와 웬델 존스의 공동 연구는 정확히 이 문제를 제기했다. 게임이론에 관한 수학적 연구 끝에 그들은 게임의 복잡성이 어느 수준 이상에 도달하면 내쉬균형 이론이 무의미해 지는 혼돈상태가 되고, 모든 경쟁자들은 더 이상 안정적인 전략을 구사할 수 없으며, 그저 매우 불규칙하게 그때그때의 상황에 맞춰 빈번하게 행동을 바꾸어야 하는 상황에 이르게 된다. 모든 것이 예측 불가능하고 무작위적으로 일어나는, 즉 내쉬균형이 작동하지 않는 상황이 되는 것이다.

지금과 같이 컴퓨팅, 소프트웨어, 유전자편집, AI, VR 등 새로운 기술들이 홍수처럼 쏟아져 나오는 때에 입법, 규제 기관들은 더 이상 전통적 게임이론이나 내쉬균형에 기대서는 안 된다. 이 시대에 기술의 진화는 그에 대응하는 규제방식의 진화보다 극명하게 빠를 수밖에 없다.

쿠스네조프와 존스의 연구는 쉬운 해결책을 주지는 못했다. 하지만 그들이 준 확실한 메시지는 과거의 점진적이고 보편적 기술 변화에 대응했던 방식을 적용하려 한다면 큰 실수라는 것이다.

안타깝게도 지금 국내는 물론이고 세계 각국에서 규제 기관들은 이런 실수를 저지르고 있다. ICTㆍ과학 기술에 대한 기존 방식의 규제는 결국 자가당착에 빠질 수밖에 없다. 이제 새로운 과학 기술의 개발과 진화는 글로벌하게, 동시 다발적으로, 다자가 공동 기여하는 방식으로, 다양한 목적을 위해 이뤄지기 때문이다.

양현미 서울대학교 수리과학부 객원교수