KT "2022년 초대규모 GPU 팜 구축…기업의 '조력자' 될 것"

김주성 KT Cloud/IDC사업추진실 상무
온라인 기자간담회서 설명

[아시아경제 차민영 기자] "현재 100장 규모의 그래픽처리장치(GPU) 자원을 내년께 수천장에 달하는 초대형 규모의 GPU 팜으로 확대 구축할 계획이다."

김주성 KT Cloud/IDC사업추진실 상무는 27일 온라인 기자간담회에서 KT의 신제품 ‘하이퍼스케일 AI 컴퓨팅(HAC)’를 소개하면서 이같이 밝혔다. KT가 이달 첫 선을 보인 HAC는 AI 인프라 솔루션 스타트업 ‘모레’와 협력해 만든 클라우드 기반의 GPU 인프라 서비스다. GPU 인프라는 인공지능(AI) 기업에 필수적이지만 엔비디아 등 극소수 기업이 독점하는 시장이다. 비용 부담도 크다. KT는 독과점 이슈를 해소하고 비용을 낮춰 GPU 기술 국산화를 선도하겠다는 구상이다.

HAC의 가장 큰 장점은 합리적인 비용 체계다. 국내 최초로 이용자가 원하는 시점에 GPU 자원을 사용한 만큼 비용을 지불하고 반납하는 ‘쓴 만큼만 내는’ 구조이기 때문이다. 김 상무는 "HAC 사용으로 인한 비용 절감 효과는 70% 정도로 내년 상반기까지 할인 프로모션을 진행할 계획"이라고 설명했다.

초거대 AI 등 수요 기업의 AI 모델 대형화에 따른 탄력적 대응도 가능하다. 최근 AI 기술 고도화로 기업별로 모델 데이터 학습량이 늘어나는 추세기 때문이다. 일례로 GPT-3을 가정시 1000배 이상 늘어난 매개변수가 필요하다. 김 상무는 "기존 GPU 서비스는 하나의 GPU에 작은 메모리로 개발을 진행한 후 멀티 GPU로 확장하는 과정에서 기존 데이터를 모두 삭제하고 전부 다시 시작해야 하는 어려움이 있었다"며 "KT의 HAC는 수백~수천개의 대규모 GPU 클러스터링을 할당해 사용할 수 있어 대형화 상황에서도 잘 대응할 수 있다"고 말했다.

단기 고도화 계획도 수립했다. KT가 현재 제공하는 레퍼런스 모델은 비젼, NLP, 기타 등 크게 3개군 16개 모델로, 매월 업데이트를 통해 내년 1월까지 41개 모델로 늘릴 계획이다. 현재 파이토치만 제공되는 한계를 벗어나 내년까지 텐서플로우로도 확장시킨다. 김 상무는 "기업들의 ‘조력자(ENABLER)’ 역할에 초점을 맞추고 2023년까지 엔비디아와 경쟁을 통해 어느 정도 일정 시장점유율을 가져오는 게 우리의 목표"라고 강조했다.

차민영 기자 blooming@asiae.co.kr