"GPU 70% 줄였다"…BC카드, 美서 에이전틱 금융 AI 공개

BC카드는 지난 14일(현지시간) 미국 애틀랜타에서 진행된 세계 최대 규모 오픈소스 기술 콘퍼런스인 'Red Hat Summit 2026'에서 'Agentic AI 운영 플랫폼' 사례를 글로벌 무대에 최초로 공개했다고 18일 밝혔다.

지난 14일(현지시간) 이태영 BC카드 AX팀장이 미국 애틀랜타에서 진행된 'Red Hat Summit 2026'에서 에이전틱 AI 운영 플랫폼 서비스 적용 사례를 발표하고 있다. BC카드

'Red Hat Summit'은 글로벌 오픈소스 기업 레드햇이 2005년 미국 뉴올리언스에서 처음 개최한 이후 매년 진행하고 있는 오픈소스·클라우드·AI기술 콘퍼런스로 전 세계 IT 리더, 개발자 및 엔지니어 등 수만명이 참석하는 글로벌 행사다.

에이전틱 AI는 단순 답변을 넘어 스스로 판단하고 행동하는 AI를 의미한다. 이를 활용한 'Agentic AI 운영 플랫폼'은 하나의 대규모언어모델(LLM)에 모든 업무를 의존했던 기존 방식에서 영역별로 특화된 다수의 소규모언어모델(SLM)을 군집화해 동시에 처리할 수 있도록 했다.

특히 LLM의 경우 높은 운영 비용과 느린 처리 속도라는 한계가 존재했지만 SLM은 특정 업무에 최적화돼 안정적 결과 도출은 물론 추론 속도가 최대 3배 이상 향상됨과 동시에 그래픽처리장치(GPU) 자원을 최대 70%까지 절감할 수 있게 됐다.

이날 행사장에서 BC카드는 연간 100억건 이상 결제 데이터를 처리하며 축적한 노하우를 AI 기술에 접목시켜 고가의 GPU 자원을 효율적으로 분산한 사례를 발표했다. 이 같은 기술적 성과를 기반으로 단순 도입하는 AI 서비스를 넘어 ▲Eat.pl(실시간 소비 패턴 분석 후 맛집 추천) ▲BCGPT(금융 특화 생성형 AI 플랫폼 통한 임직원 업무 지원) ▲MOAI(여러 AI 연결해 업무 자동화 구현) 등 현재 운영 중인 서비스도 소개해 글로벌 기업들로부터 주목을 받았다.

R&D 기술 개발 외 글로벌 AI 인프라 발전에 기여하기 위한 다양한 활동도 병행하고 있다. BC카드는 자체 개발한 AI 모델과 한국 금융 특화 데이터셋을 전세계 개발자들이 사용할 수 있도록 글로벌 LLM 오픈소스 허브인 '허깅페이스(Hugging Face)'에 약 38개의 LLM을 오픈소스로 공개한 바 있다.

오성수 BC카드 AI데이터본부장은 "이번 Red Hat Summit에서의 발표는 BC카드의 글로벌 수준 에이전틱 AI 엔지니어링 역량이 세계 무대에서 공식적으로 인정받는 의미 있는 자리였다"며 "한국 금융권을 대표해 단순한 AI 도입 사례를 넘어 오픈소스 생태계에 기여하는 기술 주체로서의 정체성을 지속적으로 보여줄 예정"이라고 밝혔다.

이승형 기자 trust@asiae.co.kr