SK하이닉스, 생성형 AI 가속기 카드 'AiMX' 시제품 첫 공개

GDDR6-AiM 칩 연결해 완성
대규모 언어 모델(LLM) 특화 제품

SK하이닉스는 12일(현지시간)부터 사흘간 미국 캘리포니아주 메리어트 산타클라라 호텔에서 열린 'AI 하드웨어 & 엣지 AI 서밋(AI Hardware & Edge AI Summit) 2023'에 참가해 그래픽더블데이터레이트(GDDR)6-AiM 기반 생성형 AI 가속기 카드인 'AiMX' 시제품을 최초 공개, 시연했다고 18일 밝혔다.

AI 서밋은 영국 마케팅 기업 키사코 리서치가 주최하는 연례행사다. 글로벌 IT 기업과 유명 스타트업이 참가해 AI와 머신러닝 개발 성과를 공유하는 데 목적을 둔다. SK하이닉스가 이 서밋에 참가한 것은 올해로 세 번째다.

회사는 이번 서밋에서 'AI 성능을 가속하는 SK하이닉스의 PIM 반도체 AiM'이라는 슬로건을 걸고 GDDR6-AiM과 이 제품을 여러 개 연결해 성능을 개선한 가속기 카드 AiMX 시제품을 처음으로 선보였다.

GDDR6-AiM을 여러 개 연결해 성능을 개선한 가속기 카드 'AiMX' 시제품 / [사진출처=SK하이닉스 뉴스룸]

AiM은 SK하이닉스 PIM(메모리 반도체에 연산 기능을 더해 AI와 빅데이터 처리 분야에서 데이터 이동 지연 문제를 해결하는 차세대 기술) 반도체 제품명으로 GDDR6-AiM은 산하 제품군에 속한다. AiMX는 GDDR6-AiM 칩을 사용, 챗GPT와 같은 대규모 언어 모델(LLM)에 특화된 SK하이닉스 가속기 카드 제품이다. 가속기는 각종 정보 처리와 연산을 위해 설계한 칩을 사용해 만든 특수 목적의 하드웨어 장치를 통칭한다.

SK하이닉스는 메타(Meta)의 생성형 AI인 'OPT(Open Pre-trained Transformer) 13B' 모델을 AiMX 시제품을 탑재한 서버 시스템에서 시연했다. GDDR6-AiM 칩을 탑재한 AiMX 시스템은 그래픽처리장치(GPU)를 탑재한 시스템과 비교해 반응 속도는 10배 이상 빨랐고 전력 소모는 5분의 1 수준이었다.

회사는 또 AiMX 장점을 구체적으로 설명하는 세션 발표를 했다. 임의철 SK하이닉스 부사장(메모리솔루션담당)은 '생성형 AI 서비스를 위한 효율적 AiM 가속 솔루션'이라는 주제로 GPU와 AiMX 성능을 비교하며 차세대 지능형 메모리 반도체 미래를 설명했다.

임 부사장은 "SK하이닉스 AiMX는 GPU를 쓸 때보다 고성능, 저전력에 비용도 절감할 수 있는 솔루션"이라며 "앞으로도 AI 시대를 이끌어갈 메모리 기술 개발을 이어나갈 것"이라고 말했다.

김평화 기자 peace@asiae.co.kr