‘킬러로봇’ 전쟁에서 제외되나…13일부터 UN 컨퍼런스 논의 돌입

우크라이나 전투로봇 [이미지출처=연합뉴스]

[아시아경제 김하균 기자] “첫째, 로봇은 인간에게 해를 가하거나, 혹은 행동을 하지 않음으로써 인간에게 해를 끼치지 않는다”

미국 SF소설의 아버지 아시모프는 1942년, 자신의 소설 “런어라운드”에서 로봇이 지켜야 할 3원칙을 제시했다. 그는 첫 번째 원칙으로 로봇은 인간에게 위해를 가할 수 없다는 것을 내세웠다. 하지만 75년이 지난 지금, 제1원칙이 무색할 정도로 현실이 돼버린 ‘킬러로봇’의 위험성에 각국이 머리를 싸맸다.

13일부터 스위스 제네바에서는 특정재래식무기금지협약(Convention on Certain Conventional Weapons·CCW)에 관한 유엔 컨퍼런스가 진행된다. CCW는 △실명 레이저, △탐지가 불가능한 지뢰, △생화학 무기등 과도한 상해를 유발할 수 있는 무기를 전쟁에서 금지하는 협약이다. 이번 컨퍼런스에서는 킬러로봇을 주제로 회의가 진행될 예정으로, 인공지능으로 작동하는 무기를 두고 국제사회가 공식적으로 논의를 나누는 것은 이번이 처음이다. 이는 그만큼 킬러로봇이 현실적인 위협으로 다가왔기 때문이다.

첨단 무인기 타라니스 [이미지출처=연합뉴스]

전장에서 적군을 살상하는 역할을 담당하는 인공지능인 킬러로봇은 현재 다양한 형태로 운용되고 있다. 영국의 무인 전투기 타라니스는 전체 길이가 12m이고 날개는 10m로 세계에서 가장 큰 무인 전투기다. 타라니스는 자율 비행이 가능하고, 유도 폭탄을 사용해 목표를 정확히 타격할 수 있다. 또한, 적의 공격을 감지해 이에 대응한다. 미 해군은 대잠수함전을 위해 무인함정 ‘시 헌터’를 개발했다. 길이 40m, 배수량 145t의 ‘시 헌터’는 27노트(시속 50km)로 바다를 정찰하며 적 잠수함을 찾아내 격침 시킨다.

휴전선에도 이미 킬러로봇이 이용된 적이 있었다. 한화테크윈의 SGR-A1는 스스로 주변을 감시하며 음성을 인식하고 적으로 판정될 경우 추적 및 발사까지 가능한 최초의 자율 시스템 기관총으로 DMZ에 배치돼 사용됐었다.

호킹 박사는 지난 6일(현지시간) 포르투갈 리스본에서 열린 '웹 서밋 기술 콘퍼런스'에서 AI가 인류에게 큰 위협이 될 수 있다고 경고했다. [이미지출처=연합뉴스]

이렇듯 눈앞의 현실로 다가온 킬러로봇의 위협에 AI 군사적 이용을 놓고 우려의 목소리가 높아지고 있다. 지난 8월, 일론 머스크 테슬라 창업자와 무스타파 술레이만 딥마인드 테크놀로지 공동 설립자 등 전 세계 26개국의 정보기술(IT) 및 로봇 전문가 116명은 유엔에 공동서한을 보내 “판도라의 상자를 열지 말라”며 킬러로봇 개발 금지를 강력히 촉구했다. 이들은 킬러로봇이 전쟁에 사용될 경우 제3차 세계대전이 발발할 가능성이 있다고 경고했다.

AI 연구를 지원하는 비영리단체 퓨처오브라이프는 올해 초 ‘AI 기반 무기 경쟁을 피해야 한다’는 내용의 ‘아실로마 AI 주요 원칙(총 23개)’을 발표했다. 이 원칙에는 AI·로봇 연구자 816명을 포함해 총 2000여 명이 서명했다.

세계적 석학 스티븐 호킹 박사도 최근 "인류가 AI의 위협에 대처하는 방법을 익히지 못한다면 AI는 인류 문명에 최악의 사건이 될 수 있다"며 "AI는 우리를 도울 수도, 파괴할 수도 있다"고 경고했다.

킬러로봇이 문제가 되는 부분은 보통의 군사용 로봇과 다르게 ‘자율성’을 갖기 때문이다. 인간 공격에 있어서 자율성을 갖게 된 AI가 통제를 벗어날 경우 예측할 수 없는 사태가 벌어질 수 있다. 이런 이유에서 SGR-A1는 발포 최종 명령에 있어서는 상황을 보고 받은 ‘인간 병사’에게 권한을 양도한다.

로봇이 저지른 행위의 책임 소재를 어떻게 물을 것인지도 문제가 됐다. 시민단체 '킬러로봇 금지 캠페인Campaign to Stop Killer Robots)'은 컴퓨터가 전쟁범죄의 피의자가 될 수 없기 때문에 알고리즘(전산 논리체계)에 개별적 공격을 결정할 수 있도록 입력된 어떤 기계도 불법이라고 주장했다.

하지만 이번 유엔 회의에서 킬러로봇을 금지를 위한 협약안이 만들어질 가능성은 낮다. 회의를 주재한 아만디프 길 인도 군축대사는 "(킬러로봇) 금지 입법을 하는 것은 매우 쉬운 일이지만, 매우 복잡한 문제를 서둘러 결론내리는 것은 현명하지 않다"며 "우리는 이제 막 출발선에 섰다"고 말했다. 이어 그는 "생사와 관련된 결정은 인간이 책임져야 한다는 데 공감대가 있다"고 인간이 살상 권한을 AI에게 넘겨주는 데 있어서 모두가 합의한 지점에 대해 설명했다.

김하균 기자 lama@asiae.co.kr