전문 직종은 저마다 윤리강령을 제정해 종사자들이 이를 지키도록 권유한다. 컴퓨터와 소프트웨어가 사회에 미치는 영향이 커짐에 따라 컴퓨터 관련 학회들도 소프트웨어 공학도의 윤리강령을 제정한 바 있다.
AI를 무기체계에 사용하지 말라는 건 어제 오늘의 주장이 아니다. 40년전 미 국방성은 '스타 워'라는 계획을 수립하고자 했다. 인공위성에서 지구를 감시하다가 적성국가에서 ICBM을 발사한다고 판단되면 AI로 하여금 스스로 대응케하자는 계획이었다. 이에 전 세계 과학자들이 반대의 목소리를 높였다. 당시 독일에서 개최된 AI 국제학술대회장은 미 국방성의 성토장이 됐다. 적이 ICBM을 발사했다고 AI가 오해할 수 있고, 따라서 의도하지 않은 핵 전쟁이 일어날 수 있다는 게 반대 논리였다. 요즘 자율자동차가 사고를 일으키는 것과 유사한 상황일 수 있는데, 자율자동차와 달리 '스타 워'는 전 인류의 운명을 위협한다. '스타 워' 계획은 취소됐다.
지난해 여름 발표된 중국의 차세대 AI 발전전략은 2030년까지 중국을 세계 최고 AI 국가로 만들겠다는 포부를 담고 있다. AI를 제조ㆍ의료ㆍ농업 등에서 광범위하게 활용하겠다는 것이다. 국가 R&D 투자로 마중물 역할을 하고, IT 대기업들이 이끌고 스타트업이 호응하게 하겠다고 한다. 이런 방대한 계획에서 중국은 당당히 민군융합을 강조했다. 즉 AI 기술을 군사목적으로도 사용하겠다는 분명한 의지다.
최근 구글은 AI를 연구하고 응용하는 원칙을 천명했다. 무기로 사용하기 위해 AI를 개발하지는 않겠지만 다른 여러 분야에서 군대와의 협력을 계속할 것이라는 점도 분명히 했다. 최근 미 국무장관을 지낸 키신저는 우리 인류가 AI 부상에 준비돼 있지 않다고 경고했다. 그는 중국을 지칭하지 않았지만 AI를 주요 국가과제로 삼은 나라들이 있다고 지적하며 불편한 심기를 노출했다. 그러면서 미국의 발분을 주문했다.
AI는 자율적 의사결정 능력이 있고, 데이터로부터 학습하기 때문에 개발자의 의도를 벗어나는 방향으로 성장할 가능성이 있다. 그래서 AI에 대한 통제와 감시를 게을리하지 말자는 주장은 설득력있다. 그러나 AI 연구개발 자체를 거부하는 것도 바람직하지 않다. 늦었지만 우리나라도 다방면 AI 연구에 박차를 가해야 한다.
김진형 인공지능연구원장·KAIST 명예교수
꼭 봐야할 주요뉴스
"축의금 10만원 냈는데 갈비탕 주다니"…하객 불만... 마스크영역<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제(www.asiae.co.kr) 무단전재 배포금지>