구글 클라우드가 인공지능(AI) 학습 및 개발에 특화된 6세대 AI 칩 TPU(텐서 프로세서 유닛) 트릴리움에 자신감을 내비쳤다. 초거대 연산 처리에 효율성을 높였으며 국내 IT 기업인 카카오도 활용하고 있다고 전했다.
구글 클라우드는 16일 트릴리움 교육 세션을 진행했다. 이날 행사에서 모한 피치카 구글 클라우드 그룹 프로덕트 매니저는 "TPU는 구글 서비스 중에서 검색, 유튜브 등 수십억명의 사용자에게 서비스를 제공하고 있는 부분을 지원한다"라면서 "높은 성능과 기능을 자랑하는 제미나이 2.0을 학습시키고 서비스하는 데도 사용됐다"라고 설명했다.
이어 "(트릴리움은) 지금까지 출시된 제품 중에서 가장 강력한 TPU"라며 "칩당 최대 성능이 4.7배 향상됐고 이러한 발전 덕분에 복합해지는 AI 문제를 해결할 수 있고 획기적인 결과를 제공할 수 있게 됐다"라고 했다.
TPU는 구글이 자체 개발한 AI 칩으로 딥러닝 모델 훈련 및 추론에 특화됐다는 평가를 받는다. AI 연산 및 그래픽 작업 등에 특화된 엔비디아의 그래픽카드(GPU)와는 다른 특징을 갖는다. 트릴리움은 이전 세대 TPU에 비해 학습 성능은 4배 이상, 추론 처리량은 최대 3배 증가했고 전력 효율도 67% 향상된 것으로 알려졌다.
피치카 매니저는 TPU와 GPU의 차이에 대해 "GPU의 경우 출발점이 컴퓨터 그래픽 쪽에서 활용됐고 구체적인 용도를 위해 설계됐다"라면서 "병렬 처리를 하게끔 돼 있고 대량의 데이터를 처리하는 데 적합하다. TPU의 경우 보다 전문화된 형태로서 연산 처리에 적합하고 학습이나 추론 같은 부분에 알맞다"라고 했다.
AI 하이퍼컴퓨터에 대한 설명도 이어졌다. 피치카 매니저는 "AI 하이퍼컴퓨터는 AI 인프라의 모든 핵심 구성 요소를 통합하도록 설계된 강력한 시스템"이라며 "AI 작업 흐름을 최적화함으로써 AI 하이퍼컴퓨터는 이전보다 훨씬 빠르고 효율적으로 놀라운 결과를 얻도록 지원한다"라고 강조했다.
구글 클라우드는 TPU를 활용한 구체적인 사례도 설명했다. 카카오는 AI 통합 브랜드 '카나나' 개발을 위한 LLM 학습에 TPU를 도입했다. 구글 클라우드는 "초기에 GPU를 통해 개발되던 카나나는 보다 적은 자원으로 모델의 성능을 빠르게 높여야 하는 과제를 안고 있었다"라며 "오픈 모델과 트릴리움을 통해 높은 수준의 한국어 대응이 가능한 모델을 빠르게 확보할 수 있었다"라고 전했다.
그러면서 "카카오는 TPU 3세대 시절부터 구글과 함께 했다"라며 "TPU를 이용해 초거대 AI 코GPT(KoGPT) 언어 모델을 개발했고 이미지 생성 AI인 칼로를 통해 TPU와 멀티모달(이미지·비디오·오디오 등 데이터 동시 처리 기술) 데이터셋의 궁합을 고민하기도 했다"라고 덧붙였다.
이정윤 기자 leejuyoo@asiae.co.kr
꼭 봐야할 주요뉴스

<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제(www.asiae.co.kr) 무단전재 배포금지>