삼성전자 'MemCon 2023'서 차세대 AI 메모리 솔루션 선봬

최진혁 미주 메모리연구소장 기조연설
AI 성능 높아질수록 메모리 기술 과제도 多
"차세대 메모리 제품 개발로 시장 주도할 것"

삼성전자가 인공지능(AI) 메모리 반도체 기술 동향을 논의하는 글로벌 학회에서 차세대 제품을 여럿 소개했다. 앞으로 다양한 제품 개발에 힘쓰면서 메모리 시장 패러다임 변화를 주도하겠다는 포부도 밝혔다.

삼성전자는 28일(현지시간) 미국 캘리포니아에서 열린 '멤콘(MemCon) 2023'에 참가했다고 밝혔다. MemCon은 AI 관련 메모리 솔루션을 심층적으로 다루기 위해 올해 처음 열린 학회다. 삼성전자 반도체(DS부문)는 MemCon 파운딩(Founding) 파트너로서 이번 행사에 참석했다. 구글과 마이크로소프트 등 글로벌 기업들도 자리했다.

삼성전자 반도체 미주 메모리연구소장(DSRA-Memory)인 최진혁 부사장이 MemCon 2023에서 기조연설을 하고 있다. / [사진제공=삼성전자]

삼성전자 반도체 미주 메모리연구소장(DSRA-Memory)인 최진혁 부사장은 이번 행사에서 '데이터 중심 시대의 메모리 혁신'을 주제로 기조연설을 했다. 다양한 D램과 낸드플래시의 메모리 월(Wall) 문제를 해결할 혁신 솔루션과 삼성전자 메모리 기술 비전을 선보였다. 메모리 월은 프로세서 속도와 메모리 접근 시간 사이 격차가 늘면서 발생하는 성능 병목 현상이다.

최 부사장이 소개한 차세대 메모리 솔루션은 ▲고성능 메모리에 연산 기능 내장한 'HBM-PIM(프로세싱인메모리)' ▲메모리 근처에서 연산 기능을 하는 'PNM(프로세싱니어메모리) ▲시스템 메모리 용량을 테라바이트(TB)급까지 확장하는 'CXL(컴퓨터 익스프레스 링크) D램' ▲솔리드스테이드드라이브(SSD) 내부 연산 기능을 강화한 '2세대 스마트SSD' ▲서버 시스템 공간 활용 높인 '페타바이트 스토리지' ▲AI·머신러닝 전용 '메모리 시맨틱 SSD' 등이다.

최 부사장은 GPT(사전 훈련된 생성 변환기) 기술이 지속해서 발전하면서 학습 데이터와 모델 크기가 급격히 증가, 이로 인해 모델 학습과 추론에 필요한 하드웨어 비용이 늘고 있다고 짚었다. 챗GPT와 같은 대규모 모델은 메모리 병목 현상으로 인해 지연되는 부분이 80% 이상 달하다 보니 문장 생성 속도가 지연되는 문제도 발생한다고 설명했다.

HBM-PIM 기술을 적용하면 기존 HBM을 탑재한 그래픽처리장치(GPU) 가속기와 비교해 AI 모델 생성 성능이 약 3.4배 이상 개선될 수 있다는 게 최 부사장 설명이다. 또 CXL 기반의 PNM 기술을 적용하면 기존 GPU 가속기와 비교해 D램 용량은 4배 증가하고 AI 모델 로딩 속도는 2배 이상 빨라질 수 있다는 예상을 더했다.

삼성전자 8HBM-PIMs 소개 이미지 / [이미지제공=삼성전자]

삼성전자는 AI 발전과 함께 늘어나는 시장 요구에 부응하면서 메모리 산업 발전을 위해 다양한 차세대 메모리 솔루션을 지속해서 개발, 선보일 계획이다. 글로벌 IT 기업과의 협력도 강화해 메모리 패러다임 변화를 주도하겠다는 포부도 밝혔다.

시장조사업체 가트너에 따르면 지난해 AI 반도체 시장 규모는 전년 대비 27.8% 늘어난 444억달러를 기록했다. 2026년에는 861억달러로 증가할 전망이다.

김평화 기자 peace@asiae.co.kr