"친구처럼 대화하고 교감" KAIST, 나만의 AI '소울메이트' 개발

영화 속 한 장면처럼. 인간의 생각과 감정을 이해하고 닮아가는 그리고 서로 교감할 수 있는 인공지능(AI) 반도체가 국내에서 개발됐다. 일상적으로 사용하는 챗GPT(ChatGPT) 등 거대 언어 모델(LLM)이 능숙하게 답을 하면서도 정작 사용자와 교감하는 데까지 이르지 못하는 것과는 사뭇 다른 이야기다.

KAIST는 인공지능반도체대학원 유회준 교수 연구팀이 사용자의 특성에 맞춰 스스로 진화하는 개인 맞춤형 거대 언어 모델(LLM) 가속기 '소울메이트(SoulMate)'를 개발했다고 17일 밝혔다.

소울메이트는 '모두를 위한 AI'를 넘어 사용자 개인의 대화 스타일과 선호도를 학습해 반응하는 '나만을 위한 초개인화 AI' 시대를 앞당길 핵심 반도체 기술로 평가받는다.

유회준 교수(오른쪽)와 홍성연 박사과정 연구원(왼쪽)이 연구성과를 소개하고 있다. KAIST

핵심은 외부 서버(클라우드)를 거치지 않고 기기 자체에서 데이터를 처리하는 온디바이스(On-Device) AI 기술이다.

연구팀은 AI가 기억하는 대화 내용을 바탕으로 맞춤형 답변을 생성하는 검색증강생성(RAG) 기술과 사용자의 피드백을 즉각 반영해 학습하는 로우 랭크 미세조정(LoRA) 기술을 반도체 내부에 직접 구현했다.

이를 통해 소울메이트는 0.2초(216.4ms) 이내에 사용자에게 응답하며 동시에 학습까지 수행하는 실시간 개인화 AI 시스템으로 활용할 수 있다.

정보의 중요도에 따라 처리 방식을 최적화하는 혼합 랭크(Mixed-Rank) 아키텍처를 적용해 전력 소모를 획기적으로 줄인 것도 소울메이트의 장점이다.

소울메이트를 구현할 반도체는 스마트폰 프로세서 소비전력의 1/500 수준인 9.8㎽의 초저전력으로도 복잡한 학습과 추론을 동시에 수행할 수 있어 스마트폰 등 모바일 기기에서도 배터리 걱정 없이 구동할 수 있다.

특히 모든 개인 데이터가 외부 서버로 전송되지 않고 기기 내부에서만 처리되는 '보안 완결형 AI' 구조로 개인정보 유출 우려를 근본적으로 차단했다.

연구팀은 이 기술이 향후 스마트폰, 웨어러블 기기, 개인형 AI 디바이스 등 차세대 플랫폼과 결합해 진정한 개인화 AI 서비스 시대를 열어가는 데 기여할 것으로 기대한다.

유 교수는 "이번 연구는 사람이 타인과 상호 우정을 쌓아가는 과정을 모방해 AI가 사용자의 진정한 동반자로 발전할 수 있는 기술적 기반을 마련했다는 점에서 의미를 갖는다"며 "미래 AI는 단순 도구를 넘어 개인의 사생활보호를 완벽하게 이루면서도 언제 어디서나 '나'를 가장 잘 알고 이해하는 '베프(Best Friend)' 같은 존재가 될 것"이라고 말했다.

한편 이번 연구에는 홍성연 박사과정 연구원이 제1 저자로 참여했다. 연구 결과(논문)는 지난달 미국 샌프란시스코에서 열린 '국제고체회로설계학회(ISSCC)'에서 '하이라이트 논문(Highlight Paper)'으로 선정돼 학계의 주목을 받았다.

학회 현장에서 연구팀은 실제 반도체 칩을 활용해 사용자의 반응에 따라 답변 스타일이 실시간으로 변화하는 시연에 성공했다. 소울메이트 AI 반도체는 내년 제품화될 예정이다.

대전=정일웅 기자 jiw3061@asiae.co.kr