KISTI, 출연연·중소기업·공공기관위한 LLM 공개

한국과학기술정보연구원(원장 김재수, 이하 KISTI)은 과학기술데이터에 특화되고, 출연연·공공기관에서 활용이 쉬운 생성형 거대 언어 모델(LLM: Large Language Model) KONI(KISTI Open Natural Intelligence, 한글명 고니) 13b를 개발했다고 20일 밝혔다.

KONI는 LLM에서 일반적으로 발생하는 환각 현상을 최소화하기 위해 기존 정보 서비스 시스템이 보유한 데이터를 답변 제공에 활용하는 검색 증강 생성 기술(RAG; Retrieval-Augmented Generation)의 적용이 쉽도록 개발되었다.

KIST는 전산 비용, 보안, 정보 유출 등을 이유로 LLM 도입이 어려웠던 출연연, 공공기관, 중소기업에 대한 LLM 지원을 할 예정이다. 또한, 모델 성능도 현재 130억 개 파라미터 수준의 모델 크기를 늘리고, 학습 데이터 또한 추가로 확보함으로써 지속적으로 향상할 계획이다.

김재수 KISTI 원장은 "KISTISMS 일반 대중과 전문과학자 모두가 활용할 수 있는 공학박사 수준의 AI 정보 서비스 체계를 구축해 나갈 것이며, 향후 AI를 통해 가설을 세우고 과학적 발견까지 지원함으로써 실제 연구에서도 활용할 수 있도록 확대할 예정"이라고 밝혔다.

백종민 기자 cinqange@asiae.co.kr