SKT, 멀티LLM 추진…기업·공공용 생성형 AI 시장 공략

에이닷, 엔트로픽, 코난 등 멀티 LLM기반
대규모 AI인프라와 LLM 파트너 등 활용
정부부처 등다양한 산업별 고객 발굴 추진

SK텔레콤이 기업·공공용 ‘생성형 AI 시장’ 공략을 위한 ‘멀티 LLM(Large Language Model)’ 전략을 23일 발표했다. SKT는 ▲대화 및 고객센터 등 통신사 기반 서비스를 중심으로 자체 개발해온 에이닷 LLM▲윤리적 답변 및 대용량 텍스트(Text) 입력에 강점이 있는 엔트로픽(Anthropic)社의 LLM ▲한국어 데이터가 풍부한 코난 LLM 등을 조합해 고객 맞춤형으로 제공하기 위한 기술 및 사업적 준비를 진행 중이라고 밝혔다.

LLM 기본모델(Foundation Model)은 문서요약, 문서생성, Q&A등을 수행할 수 있는 기본 기능을 갖춘 AI 소프트웨어다. SKT는 자체 LLM과 더불어 업계에서 인정받는 타사의 LLM까지 포함한 라인업으로 ‘멀티LLM’ 사업 추진 계획을 밝힌 것이다. 기능 통합 작업이 완료되는 4분기부터 실제 서비스 제공이 가능할 것으로 기대된다.

강력한 인프라 및 생태계로 Full Stack 서비스 제공

LLM을 포함한 AI 서비스는 사전 학습을 위한 데이터와 함께 안정적 서비스 제공을 위한 GPU서버 인프라가 확실히 뒷받침돼야 한다. SKT는 전국 단위의 IT 인프라를 운용한 경험과 대규모 AI 개발자 기반(Pool)을 보유하고 있어, 하드웨어 인프라에서 LLM 소프트웨어에 이르기까지 엔터프라이즈 AI 분야에서 ‘Full Stack 서비스(Approach)’가 가능할 것으로 보고있다. 최근 지분투자를 단행해 3대주주가 된 페르소나AI와 컨택센타(AI Contact Center) 분야 LLM 구축 사업 협력을 추진하는 등 다양한 방식의 LLM 사업 추진을 위한 생태계를 구축, 확대해나갈 계획이다.

산업별 특화 LLM 서비스제공 지향

SKT가 제공하고자 하는 기업공공(Enterprise) 분야 LLM 서비스는 각각의 LLM이 가진 고유의 특장점을 가장 잘 발휘할 수 있는 분야에 각 LLM 서비스를 매칭하는 ‘산업별 특화 LLM 서비스’ 제공을 지향한다. 예를 들어 에이닷LLM의 경우 학습한 데이터나 서비스 성격상 주로 대화나 챗봇 등에 서비스 장점이 있다. 엔트로픽LLM의 경우 AI가 따라야 할 윤리원칙을 미리 학습시켜두었기 때문에 사람이 정해놓은 윤리원칙에 맞는 답변을 얻을 수 있는 특성이 있다. 또한 자료 입력 시 소설책 한 권에 해당하는 텍스트(10만 토큰, 7만5000단어)를 통째로 입력 가능한 장점이 있다.

다양한 분야 고객 수요 발굴

SKT는 우선 행안부, 과기부 등 정부에서 추진중인 LLM 기반 시범 사업과 본 사업 참여를 준비중이다. 금융권을 중심으로 한 LLM 기반 서비스 구축프로젝트도 개별 고객사와 함께 추진 중에 있다. SK그룹 내 대형 제조 계열사 등과도 LLM기반 AI 기술의 제조 영역적용을 위한 협의를 진행하고 있다. SKT 엔터프라이즈사업을 이끌고 있는 김경덕 CIC장(부사장)은 멀티 LLM 교육 과정에 참석한 사내 구성원들에게 “중요한 것은 고객의 요구 사항(Needs)으로, 다양한 멀티 LLM 조합을 기반으로 고객들이 실제 필요로 하는 서비스를 신속하게 제공하는 것이 중요하다”고 했다.

오유교 기자 5625@asiae.co.kr