[GTC 2026]쿨마이크로 대표 "IMMC 기술로 메모리 병목 해소…AI 추론 속도 극대화"

임윤혁 쿨마이크로 대표 인터뷰
AI 추론 수요 급증에 액체냉각 '필수'
IMMC, 에너지 소비 줄이고 효율 극대화
2030년 조 단위 기업 도약 목표

"돋보기로 햇빛을 모아 종이를 태우는 현상이 지금 전 세계 데이터센터에서 발생하고 있습니다. 반도체 칩 내부의 단위 면적당 발열량이 원자력발전소 반응기 표면과 맞먹는 수준입니다."

임윤혁 쿨마이크로 대표는 지난 19일(현지시간) 미국 캘리포니아주 새너제이에서 열린 'GTC 2026' 현장에서 아시아경제와 만나 반도체 산업이 직면한 발열 문제에 대해 이같이 진단했다. 반도체 방열 설계 및 솔루션 분야에서 25년간 전문성을 쌓아 온 임 대표는 "AI 추론 수요가 급증하면서 반도체 발열이 기존의 공랭(空冷) 방식의 임계치를 완전히 넘어섰다"면서 "이제 액체냉각은 선택이 아닌 '필수'가 됐다"고 강조했다.

임윤혁 쿨마이크로 대표가 지난 19일(현지시간) 미국 캘리포니아주 새너제이에서 열린 ‘GTC 2026’ 현장에서 아시아경제와 인터뷰하고 있다. 권현지 기자

기존 공랭식 한계, '물' 필수 솔루션으로

일반적인 공랭식 냉각은 바람을 불어 열을 식히는 구조로, 단위 면적당 발열량이 100W/㎠ 수준일 때 한계에 다다른다. 반면 고집적 AI 칩의 발열량은 300~500W/㎠ 수준에 달해 액체냉각 도입이 불가피하다. 물은 공기와 비교해 밀도가 높고 비열이 압도적이기 때문에 막대한 양의 열을 저항 없이 흡수해 운반할 수 있는 최적의 매질이기 때문이다.

쿨마이크로가 개발한 '인티그레이티드 매니폴드 마이크로 채널(IMMC)'은 액체냉각의 효율을 극대화한 기술이다. 리아스식 해안처럼 구불구불하게 표면적을 넓힌 '마이크로 채널'과 물의 흐름을 최단거리로 제어하는 '매니폴드' 구조를 결합했다.

임 대표는 "물이 옆으로 길게 흐르며 열을 흡수하는 기존 방식과 달리, IMMC는 위에서 아래로 짧게 통과한 뒤 다시 위로 빠져나가는 3차원 구조를 채택했다"며 "냉각수가 지나는 길을 10분의 1로 줄여 저항을 최소화했기 때문에 물을 순환시키는 데 필요한 에너지(펌핑 파워)를 획기적으로 낮출 수 있다"고 설명했다.

임윤혁 쿨마이크로 대표가 지난 19일(현지시간) 미국 캘리포니아주 새너제이에서 열린 ‘GTC 2026’ 현장에서 아시아경제와 인터뷰하고 있다. 권현지 기자

냉각이 곧 성능…"메모리 병목, 온도로 푼다"

업계가 이 기술에 주목하는 이유는 단순히 반도체 수명을 늘리는 것을 넘어 AI 연산 성능을 직접적으로 끌어올리기 때문이다. AI 반도체의 핵심인 고대역폭메모리(HBM)는 온도가 높아지면 데이터 유실을 막기 위해 데이터를 재충전하는 '리프레시' 동작을 더 자주 수행해야 한다. 리프레시 중에는 데이터 읽기·쓰기가 중단돼 전체 연산 속도가 저하되는데, 쿨마이크로의 솔루션은 칩 온도를 안정적으로 낮춰 이 주기를 늦춰준다. 임 대표는 "메모리가 쉬지 않고 가동될 수 있는 대역폭이 확보되면서 AI 추론 속도가 비약적으로 향상되는 결과를 낳는다"고 말했다.

시장의 흐름도 쿨마이크로의 전략과 맞닿아 있다. 엔비디아는 차세대 아키텍처인 '베라 루빈'부터 100% 액체냉각 도입을 예고했으며, GPU를 넘어 스위치와 전력선 등 인프라 전반이 액체냉각으로 전환되는 추세다. 쿨마이크로는 이번 GTC 2026에서 마이크로소프트(MS), 아마존, 구글 등 글로벌 하이퍼스케일러(대규모 데이터센터 운용기업)와 서버 업체 관계자들로부터 많은 주목을 받았다.

경쟁사 대비 얇고 컴팩트한 설계로 고가의 구리 사용량을 줄여 비용을 절감하는 동시에, 공간 효율성을 극대화해 한정된 데이터센터 내에 더 많은 GPU를 집어넣으려는 고객사의 니즈를 충족했다는 분석이다.

쿨마이크로는 IMMC 제품 1·2·3 라인업을 올해부터 2028년까지 순차 출시할 계획이며, 중앙처리장치(CPU)·GPU 이외의 주변 부품 냉각을 위한 새로운 제품군도 준비 중이다. 데이터센터 서버용을 시작으로 방산·의료기기 등으로 적용 분야를 넓혀 1~2년 내 매출 1000억원 달성, 2030년 조 단위 기업 도약을 목표로 하고 있다.

임 대표는 "에너지를 적게 쓰면서도 가장 효율적으로 열을 식히는 기술로 인류의 인프라를 혁신하고 싶다. '세상을 시원하게(Refresh the World)' 만드는 것이 미션"이라고 강조했다.

새너제이(미국)=권현지 기자 hjk@asiae.co.kr