Cohere联合开发1110亿参数LLM
仅需2张GPU即可运行…着手打造“主权AI”竞争力
LG CNS가 캐나다 인공지능(AI) 스타트업 코히어(Cohere)와 함께 1110억개 파라미터를 갖춘 초대형 추론형 거대언어모델(LLM)을 공동 개발했다고 10일 밝혔다. 이 모델은 AI가 스스로 판단하고 작업을 수행하는 '에이전틱 AI' 구현에 핵심이 되는 기술로, 23개 언어를 지원한다.
양사 자체 테스트 결과, 이번에 개발한 LLM은 챗GPT-4o, 클로드3.7 소넷 등 국제 대표 모델보다 한국어·영어 추론 능력에서 우수한 성능을 보였다. 특히 수학 추론 능력을 평가하는 매스500, AIME 2024 벤치마크에서 다른 모델보다 높은 점수를 기록했다는 설명이다. 민감한 데이터를 자체 인프라 내에서 안전하게 처리할 수 있는 '온프레미스' 방식도 지원한다. 그래픽처리장치(GPU) 2장으로도 구동이 가능한 압축 기술이 적용돼 비용 효율성을 높였다. LG CNS는 이를 통해 공공·금융 등에 적합한 '소버린 AI' 경쟁력을 확보한다는 전략이다.
本报道由人工智能(AI)翻译技术生成。
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。
