피플펀드, '설명 가능한 AI 모델' 자체 개발

AI 신용평가 모형 산출물에 대해
근거와 이유 입체적으로 설명

피플펀드(대표 김대윤)는 여신심사 및 평가 분야에서 사용될 '설명 가능한 인공지능(AI) 모델(XAI모델)' 4종을 자체 개발해 상용화한다고 29일 밝혔다. 피플펀드의 AI 신용평가 시스템은 객관적이면서 투명한 AI 설명 체계를 갖추게 됐다는 설명이다.

XAI는 AI의 작동원리 및 의사결정의 근거 등을 사용자가 이해하고 믿을 수 있게 하는 방법론이다. 피플펀드의 XAI모델은 AI 신용평가 시스템의 차입자 평가 근거를 설명하고 사용 중인 신용평가 모형이 동일 시점의 시장 상황 변화에 잘 적응하고 있는지, 모형 성능이 유지되고 있는지 판단·설명하는 기능까지 포함하고 있다. 피플펀드의 AI 신용평가 시스템을 도입하려는 금융기관의 니즈에 특화된 것이다.

이번에 개발 및 상용화된 피플펀드의 XAI모델은 총 4가지다. ▲AI 신용평가 시스템이 도출한 차입자의 신용평가 결과에 대해 서로 게이트 모형을 이용해 각 변수 항목들이 미치는 긍·부정 요인과 그 영향도를 개별 고객들이 이해할 수 있도록 설명하는 XAI모델 ▲대출을 신청한 차입자가 수개월 후에 우량해질 가능성을 분석함으로써 잠재 우량도를 설명하는 XAI모델 ▲대출 신청을 위해 현재 유입되는 잠재 차입자의 데이터가 AI 신용평가 시스템이 과거 학습한 데이터와 얼마나 유사한지 실시간으로 평가함으로써 모형의 신뢰 수준을 설명해주는 XAI모델 ▲거시경제 및 금융시장 상황의 변화에 따라 모형의 성능 저하 정도 및 교체 필요성을 평가해주는 XAI모델 등이다.

강민승 피플펀드 AI연구소장은 "아직 AI의 투명성, 공정성에 대한 사회적 신뢰가 충분치 않은 상황에서 알고리즘의 판단 결과를 충분히 설명하지 못하면 AI 신용평가 기술이 지속적으로 확대되기 어렵다고 판단해 XAI모델들을 개발하게 됐다"면서 "AI 신용평가 시스템에서 새롭게 발견되는 차별, 불공정 요소들을 빠르게 탐지하고 해결하기 위한 기술 연구에 집중할 것"이라고 말했다.

김철현 기자 kch@asiae.co.kr