올트먼 "北 침공 시 AI가 서울 방어? 따져봐야 할 질문 많아"

브루킹스硏, 북한의 서울 공습 상황 가정
AI에 수도 방어 일임·적군 사살 문제 토의
데이터센터 등 AI 기반 시설 중요성 강조도

샘 올트먼 오픈AI 최고경영자(CEO)가 인공지능(AI)을 무기로 한 전쟁에 대해 입을 열었다. AI의 전쟁 활용 가치는 높지만, 판단의 신뢰성, 인명 피해, 윤리적 문제 등을 다각적으로 고려해 신중히 접근해야 한다는 입장이다.

올트먼 CEO는 7일(현지시간) 워싱턴 소재 싱크탱크 브루킹스연구소가 개최한 'AI 시대의 지정학적 변화' 대담에서 이런 입장을 밝혔다.

그는 북한이 서울을 급습한 상황에서 한국이 AI에 서울 방어를 일임해도 되는지를 두고 "AI의 상황 판단을 정말 확신할 수 있는지 또 예상되는 인명 피해는 어느 정도인지 등 따져봐야 할 질문이 많다"고 답했다.

진행자는 북한이 서울을 향해 군항공기 100대를 출격시키고, 한국이 AI가 통제하는 로봇 무리를 이용해 항공기를 전부 격추해 북한 조종사 100명이 목숨을 잃는 상황을 가정하고서 어떤 상황에서 AI에 사람을 죽이는 결정을 맡겨도 되느냐는 취지로 질문했다.

이에 대해 올트먼 CEO는 "항공기가 한국에 접근하고 있고 인간이 의사 결정에 관여할 시간이 없을 때 AI가 요격 결정을 할 수도 있고 안 할 수도 있지만, 그런 공격이 일어나고 있다고 정말 확신할 수 있나? 어느 정도로 확실해야 하나? 예상되는 인명 피해는? 정말 (우리가 따져봐야 할) 질문이 많다"고 답했다.

또 그는 "AI에 핵무기 발사권을 주어야 한다는 사람을 본 적도, 미사일 요격처럼 촌각을 다투는 일에 AI를 사용해선 안 된다는 사람을 본 적도 없다"며 "사람의 목숨에 관한 일 중 분명 AI가 개입해야 하는 애매한 회색지대가 있다"고 지적했다. 그러면서 "이런 내용은 자신의 전문 분야가 아니다. 오픈AI가 이런 어려운 결정을 하게 되는 일이 없기를 바란다"고 부연했다.

올트먼 CEO는 AI 산업과 지정학적 경쟁에 대해서도 의견을 냈다. 미래에 가장 중요한 상품으로 AI 컴퓨트(AI compute), 반도체, 데이터센터 등 AI 기반 시설을 선정했다. AI 컴퓨트는 AI 시스템을 운영하는 데 필요한 컴퓨팅 자원을 의미한다. 그는 "AI 기술이 인류 전체에 득이 되길 원한다"면서도 "미국이 이끄는 꽤 넓고 포용적인 연합체가 이러한 AI 기반 시설 확충을 주도하면 좋겠다"는 소신을 밝히기도 했다.

다만 그는 "미국만 AI 데이터센터를 지어야 한다는 방식은 통하지 않을 것이며 세계 다른 나라들은 물론 나도 기분이 좋지 않을 것"이라고 말했다. 이어 "우리가 AI와 관련해 중국과 부딪치는 일이 많겠지만 AI의 파국적인 위험을 줄여야 한다는 목적 하나는 모두가 공유한다는 희망을 품고 있다"고 설명했다.

올트먼 CEO는 AI의 선거 악용 가능성도 언급했다. 그는 "기업들이 AI가 선거 방해에 사용되는 것을 막는 데 초집중하고 있다"며 "우리는 이 문제에 대해 선거가 끝날 때까지 편집증적으로 대응할 것"이라고 강조했다. 그러면서 "사람들이 갈수록 AI를 활용한 가짜뉴스를 경계하고 있어 과거와 같은 방식으로 선거에 AI가 영향을 미치는 게 쉽지는 않겠지만 새로운 위협이 등장할 가능성이 있다"고 진단했다.

김진영 기자 camp@asiae.co.kr