[AI혁명](44)AI 보안 위협 막는 AI…SK쉴더스

보안관제 서비스에 AI 기술 도입
탐지 영역에서 AI 적극 활용
생성형 AI 보안 위협에도 대응

"챗GPT와 같은 인공지능(AI) 컴퓨터가 사이버 공격에 악용될 수 있다." 챗GPT로 생성형 인공지능(AI) 붐을 일으킨 샘 올트먼 오픈AI 최고경영자(CEO)가 지난 3월 미국 ABC 방송과 인터뷰에서 한 말이다. 생성형 AI는 훌륭한 기술이지만 동시에 위험하고 두려운 존재라고 그는 덧붙였다. 구체적으로 대규모 허위 정보를 만들 수 있고 해킹에 악용되는 프로그램 코드를 짤 수 있다. 악의적으로 이용하려고 마음먹으면 무엇보다 치명적인 무기가 될 수 있다는 얘기다. 보안 전문 기업 SK쉴더스는 이런 잠재적 위협을 막는 '방패'를 가지고 있다. AI에서 발생할 수 있는 보안 위협을 막는 것은 역설적이게도 AI 기술이다.

SK쉴더스는 원격으로 보안 시스템을 모니터링하고 이상 징후를 분석해 사이버공격 여부를 판단하는 ‘보안관제 서비스에 AI 기술을 도입했다. 보안관제는 로그 수집, 탐지, 분석, 대응, 보고 등으로 구성된다. 24시간 365일, 위협 가능성을 수집해 탐지하고 공격 여부를 분석해 방화벽과 같은 보안 시스템 등으로 격리하는 방법으로 대응한다. 2016년 개발한 '시큐디움(Secudium)' 보안 관제 플랫폼은 빅데이터 처리기술을 통해 연간 약 8조건, 일일 79억건, 초당 25만건에 달하는 위협 데이터를 수집·처리하고 있다.

SK쉴더스 사이버보안 관제센터 '시큐디움 센터'

효율적인 해킹 위협 판단을 위해 AI 기술로 일일 5만건 이상의 위협 판단을 진행하고 있다는 설명이다. SK쉴더스 관계자는 "보안관제사가 직접 보안 위협을 판단하면 하루 60건 정도만 판단할 수 있다"며 " 분석 대상 로그는 매년 15~20% 이상 늘고 있고 보안관제사 개인 역량에 따라 해킹인지 정상 통신인지에 대한 판단이 달라지는 한계가 있어 AI 기술을 도입해 정확성과 효율성을 높였다"고 말했다. 특히 정상적이지 않은 트래픽을 효과적으로 모니터링하는 탐지 영역에서 AI를 적극적으로 활용한다. 실제 정상이지만 문제가 있다고 판단하는 '오탐'을 걸러주는 데 99.95% 정확도를 보여주고 있다.

SK쉴더스는 생성형 AI에서 발생할 수 있는 보안 위협에도 적극적으로 대응하고 있다. SK쉴더스의 화이트 해커 전문가 그룹인 '이큐스트(EQST, Experts, Qualified Security Team)'는 생성형 AI 공격 시나리오를 크게 AI 모델과 학습 데이터를 대상으로 공격하는 유형과 AI 활용 서비스를 악용하는 데서 발생하는 위협으로 분석했다. AI 모델을 대상으로 한 위협으로는 입력 데이터를 조작하거나 악의적인 데이터를 추가해 조작하는 것이 있다. 악의적인 질문을 통해 AI 서비스 내 적용된 지침 혹은 정책을 우회해 답변을 끌어내는 '프롬프트 인젝션' 공격은 활용 서비스를 악용하는 방식이다. 실제로 올해 3월 오픈AI에서 도입한 다수의 플러그인에서 프롬프트 인젝션이 발생하기도 했다. 이재우 SK쉴더스 EQST사업그룹장은 "생성형 AI가 고도화되면 공격의 자동화, 공격 수준의 상향 평준화가 이뤄질 것"이라며 "공격에 대응하기 위한 방어 측면에서도 생성형 AI가 반드시 필요할 것으로 예상된다"고 말했다.

SK쉴더스는 앞으로도 사용자, 개발자, 기업의 측면에서 AI 체크리스트를 제시하며 안전한 AI 활용 방안을 공유할 방침이다. 이 그룹장은 "EQST는 방어 측면에서의 생성형 AI 적용에 대해 연구해 고도화되고 있는 공격에 대한 대책을 선제적으로 제시할 것"이라고 했다.

김철현 기자 kch@asiae.co.kr