[IT칼럼] 인공지능의 국방 활용

올 초에 해외 저명 인공지능(AI) 학자 50여명이 KAIST와의 모든 공동연구를 보이콧하겠다고 선언했다. KAIST가 국내 한 기업의 지원을 받아 국방 관련 AI연구센터를 설립하자 AI로 무기체계를 연구한다고 오해했던 것이다. 자율무기 등 비인륜적 연구는 KAIST에서 수행하지 않을 것이라 약속하며 사태는 진화됐다.

전문 직종은 저마다 윤리강령을 제정해 종사자들이 이를 지키도록 권유한다. 컴퓨터와 소프트웨어가 사회에 미치는 영향이 커짐에 따라 컴퓨터 관련 학회들도 소프트웨어 공학도의 윤리강령을 제정한 바 있다.

모든 직종의 윤리강령이 그럴 테지만 소프트웨어 공학도 윤리강령의 첫 줄은 '공공의 이익에 부합되도록 행동하라'는 것이다. 그러나 어떻게 행동하는 것이 공공의 이익이 부합하는 것인지 구분하기 쉽지 않다. 특히 자동화의 핵심 기술인 AI를 연구개발하는 공학도는 그의 성과가 공공의 이익에 부합할 것인지 예단하기 매우 어렵다.

AI를 무기체계에 사용하지 말라는 건 어제 오늘의 주장이 아니다. 40년전 미 국방성은 '스타 워'라는 계획을 수립하고자 했다. 인공위성에서 지구를 감시하다가 적성국가에서 ICBM을 발사한다고 판단되면 AI로 하여금 스스로 대응케하자는 계획이었다. 이에 전 세계 과학자들이 반대의 목소리를 높였다. 당시 독일에서 개최된 AI 국제학술대회장은 미 국방성의 성토장이 됐다. 적이 ICBM을 발사했다고 AI가 오해할 수 있고, 따라서 의도하지 않은 핵 전쟁이 일어날 수 있다는 게 반대 논리였다. 요즘 자율자동차가 사고를 일으키는 것과 유사한 상황일 수 있는데, 자율자동차와 달리 '스타 워'는 전 인류의 운명을 위협한다. '스타 워' 계획은 취소됐다.

지난해 여름 발표된 중국의 차세대 AI 발전전략은 2030년까지 중국을 세계 최고 AI 국가로 만들겠다는 포부를 담고 있다. AI를 제조ㆍ의료ㆍ농업 등에서 광범위하게 활용하겠다는 것이다. 국가 R&D 투자로 마중물 역할을 하고, IT 대기업들이 이끌고 스타트업이 호응하게 하겠다고 한다. 이런 방대한 계획에서 중국은 당당히 민군융합을 강조했다. 즉 AI 기술을 군사목적으로도 사용하겠다는 분명한 의지다.

중국의 대규모 투자뿐 아니라 무엇보다 방대한 데이터 수집 능력은 미국을 두렵게 했다. AI의 성능은 데이터의 질과 양에서 결정된다. 중국은 8억명의 인터넷 인구가 있다. 이들이 어디를 가고 어디에서 무엇을 하는지 모두 데이터로 모인다. 마이크로소프트 부사장을 하다 중국에 정착한 카이푸 리는 "인터넷 AI에서는 미국이 앞서지만 중국 회사들이 더 많은 데이터를 갖고 있다"고 주장했다.

최근 구글은 AI를 연구하고 응용하는 원칙을 천명했다. 무기로 사용하기 위해 AI를 개발하지는 않겠지만 다른 여러 분야에서 군대와의 협력을 계속할 것이라는 점도 분명히 했다. 최근 미 국무장관을 지낸 키신저는 우리 인류가 AI 부상에 준비돼 있지 않다고 경고했다. 그는 중국을 지칭하지 않았지만 AI를 주요 국가과제로 삼은 나라들이 있다고 지적하며 불편한 심기를 노출했다. 그러면서 미국의 발분을 주문했다.

AI는 자율적 의사결정 능력이 있고, 데이터로부터 학습하기 때문에 개발자의 의도를 벗어나는 방향으로 성장할 가능성이 있다. 그래서 AI에 대한 통제와 감시를 게을리하지 말자는 주장은 설득력있다. 그러나 AI 연구개발 자체를 거부하는 것도 바람직하지 않다. 늦었지만 우리나라도 다방면 AI 연구에 박차를 가해야 한다.

김진형 인공지능연구원장·KAIST 명예교수