[테크토크]이스라엘軍 슈퍼 AI, 국제 법정 오른다

표적 생성용 AI 가스펠
가자 지구 작전서 쓰여
인간보다 50배 빠르나
정확도, 윤리 논란 가열

지난달 26일(현지시간) 국제사법재판소(ICJ)는 이스라엘에 가자 지구 팔레스타인인에 대한 대량학살을 방지할 것을 명령했습니다. 이에 따라 이스라엘은 앞으로 한 달 이내에 어떻게 제네바 협약을 준수하며 군사 작전을 진행할 것인지 상세한 계획을 제출해야 합니다.

이런 가운데 일부 국제법, 군사 전략, 테크 관련 전문가들의 관심이 집중된 곳이 있습니다. 바로 지난해 말부터 이스라엘군이 사용하기 시작한 군사용 표적 생성 AI, '가스펠(Gospel)'입니다. 이번 판결로 군사용 AI를 둘러싼 윤리적 논란이 처음으로 국제 사회의 검증대에 오를 가능성도 있습니다.

사람 대신 군사 목표 가려주는 AI

이스라엘의 공중 방어 체계 '아이언 돔'이 작동하는 모습 [이미지출처=로이터연합뉴스]

가스펠의 존재가 대중에 알려지기 시작한 건 지난해 12월, 이스라엘군이 가자 지구에 대한 폭격을 진행하면서부터입니다. 당시 이스라엘 공군은 24시간 내내 쉬지 않고 가자 지구의 군사 목표를 타격 중이라고 언급했습니다.

해당 작전의 중심에 가스펠이 있었습니다. 기계 학습 AI를 이용한 표적 생성 프로그램으로, 공군 전투기가 폭격할 대상을 걸러냅니다. '가디언'은 가스펠이 이미 2021년 5월부터 가자 지구 공습에 쓰여왔다고 보도했습니다. 이 프로그램은 한 번 가동되면 쉬지 않고 계속해서 타격할 목표를 만들어냅니다. 이스라엘군은 가스펠을 "표적 생성의 공장 생산라인"에 비유하기도 했지요.

가스펠이 구체적으로 어떤 종류의 AI를 사용하는지는 명확히 알려지지 않았습니다. 다만 드론이 촬영한 이미지와 이스라엘 정보부가 수집한 통화 감청 정보, 가자 지구의 집단행동 패턴 모니터링 데이터 등을 종합한 뒤 가장 군사 시설일 가능성이 높은 곳을 AI가 '점지'하는 방식으로 추정됩니다.

이런 기술은 이미 민간, 공공 영역에서는 활발히 이용되고 있습니다. 특정 사물이나 사람 얼굴을 인식하는 컴퓨터 비전, 네트워크 트래픽이나 인구 밀도의 패턴을 학습해 예측하는 딥 러닝 AI 등이 그 예이지요.

인간보다 50배 빠른 '표적 생성 공장'

이스라엘 병사들이 지난달 24일(현지시간) 팔레스타인 가자지구 외곽에서 꽃과 야자수에 둘러싸여 전원주택처럼 보이는 건물을 향해 이동하고 있다. [이미지출처=연합뉴스]

AI 기반 표적 생성 기술의 힘은 파괴적입니다. 애초 '표적 획득'은 전쟁에서 가장 고된 작업 중 하나입니다. 감시 카메라, 감청 정보, 전차나 항공기, 인공위성 등에서 수집한 어마어마한 센서 데이터로 군용 시설, 혹은 고가치 목표물(High Value Target·HVT)을 가려내려면 많은 전문 인력과 시간이 듭니다. 가스펠은 이런 복잡다단한 작업을 컴퓨터로 대체한 겁니다.

이스라엘군은 공식 홈페이지를 통해 가스펠과 일반 표적 지시관의 '효율성' 차이도 비교해 놨습니다. 20명의 이스라엘군 장교로 구성된 그룹은 300일간 50~100개의 군사 표적을 만들어낸다고 합니다. 반면, AI 시스템은 10~12일 안에 약 200개 목표물을 제안할 수 있습니다. 최소 50배는 더 빠른 속도입니다.

그 결과, 이스라엘군은 말 그대로 '공장에서 찍어 나오듯이' 만들어진 표적들을 따라가서 폭탄을 떨어뜨릴 수 있습니다. 팔레스타인 무장 정파 하마스가 병원, 학교 등 민간 시설까지 요새화해 급습하는 '인간 방패 전술'로 유명하다는 사실을 고려하면, 빠른 표적 획득 및 타격은 이스라엘 병사의 안전 보장을 위해서도 중요할 겁니다.

문제는 이 기술이 필연적으로 야기하는 윤리 문제입니다. AI는 순식간에 복잡한 텍스트나 이미지를 생성할 수 있지만, 여전히 그 퀄리티는 일정하지 않고 때로는 가짜 정보도 만들어냅니다. '환각'으로 이미 잘 알려진 현상이지요. 미군, 영국군 등 선진 강군은 이미 이스라엘보다 훨씬 먼저 군사용 AI 기술을 개발해 왔지만, 아직 실전에 투입한 적은 없습니다. 그만큼 AI의 불확정성을 무시할 순 없다는 뜻입니다.

신속성과 맞바꾼 정확도…국제 법정에 오른다

가자지구 남부 라파의 이스라엘 공습 현장에서 희생자 시신이 발견되자 친척들이 울부짖고 있다. [이미지출처=AFP 연합뉴스]

실제 이스라엘의 우방인 서구 국가들도 가스펠의 오·남용을 크게 우려하고 있습니다. 군사 기술자인 루시 서먼 영국 랭커스터대 명예 교수는 미 내셔널퍼블릭라디오(NPR)와 인터뷰에서 "AI가 이스라엘군의 주장대로 실제로 작동하는지 설명할 방법이 없다"고 의문을 제기했습니다.

가스펠의 '실적'에도 물음표가 달립니다. 여러 매체 정보를 종합하면 이스라엘군의 군사 작전으로 인해 가자 지구 인구의 약 1% 이상이 사망한 것으로 추정됩니다. 반면, 미 정보부는 최근 하마스 사망자 수는 전체의 약 20~30% 수준에 불과할 것으로 예상했습니다. 약 6000~9000명의 하마스 요원을 제거하는 동안 가자 지구 거주민 2만명 이상이 희생당한 겁니다. 가스펠은 빠를지는 몰라도, 정확한 것과는 거리가 멀 가능성을 시사하지요. 얼마나 많은 무고한 민간인이 테러리스트로 '오인'됐을지는 아무도 모르는 겁니다.

결국 ICJ는 이번 재판에서 팔레스타인 민간인에 대한 보호 조처가 필요하다는 남아프리카공화국의 주장에 손을 들어줬습니다. 물론 이번 판결은 어디까지나 잠정 조처일 뿐이며, ICJ는 이스라엘에 군사 작전을 중단하라는 요구도 하지 않았습니다. 단 ICJ는 "이스라엘에 의해 저질러졌다고 주장되는 행위와 부작위 중 적어도 일부는 '집단학살 협약(제네바 협약)'의 조항에 해당할 수 있는 것으로 보인다"고 밝혔습니다.

이스라엘은 앞으로 한 달 안에 ICJ의 명령을 이행, 유지하기 위해 어떤 조처를 했는지 상세한 보고서를 제출해야 합니다. 여기엔 이번 군사작전의 중심인 가스펠을 어떻게 이용하고 있는지, 그리고 가스펠의 표적 정보는 신뢰할 수 있는지 등에 관한 내용도 논의될 가능성이 큽니다. 처음으로 AI가 국제 법정에 서게 된 겁니다.

임주형 기자 skepped@asiae.co.kr