"대출 심사도 인공지능으로? 블랙박스 투명성 높여야"

15일 한은-통계학회 공동포럼
'설명가능한 AI' 고도화로 신뢰성 제고

대출 심사 등 금융 분야에 AI(인공지능)를 접목하려면 설명가능한 AI를 활용해 블랙박스의 투명성을 높여야 한다는 제언이 나왔다.

15일 오전 서울시 중구 한국은행 본관에서 ‘설명 가능한 AI 시대에 경제통계 확충과 응용’이라는 주제로 열린 한국통계학회-한은 공동포럼에서 김성환 건국대 통계학과 교수는 “신용 대출 가능 여부를 판단하는 AI를 도입해 어떤 고객의 대출이 거절됐을 경우, 해당 고객이 대출 거부 이유를 요구했을 때 은행은 '최신 AI 알고리즘이 빅데이터를 기반으로 판단했다'는 답변밖에 할 수 없다”며 블랙박스의 신뢰성 문제가 제기될 수 있다고 말했다.

기존 AI는 빅데이터를 기계적으로 학습해 결과값을 내놓는다는 특성 탓에 명확한 근거까지는 제시하지 못한다는 한계가 있다. 이런 단점을 극복하기 위해 나온 개념이 '설명가능한 AI'다. 김 교수는 “설명가능한 AI란 인공지능 구조에 대해 이해가능한 설명과 의사결정에 대한 타당성을 제공하는 시스템”이라며 “AI 알고리즘과 이에 대한 사람의 신뢰도 사이의 간극을 줄이는 것이 목적”이라고 설명했다.

김 교수는 AI를 금융·경제 통계 예측 등에 실제로 활용하려면 학계를 넘어 현장에서의 논의가 필요하다고 말했다. 그 이유로는 "금융데이터는 정보 수집이 어렵고, 계량화된 지표만으로는 설명하기 어려운 사회 심리학적 요소가 담겨 있으며, AI 알고리즘을 활용했을 때 사회적 파급효과가 크다는 3가지 난제가 있다"고 강조했다.

금융분야의 AI 활용은 아직 초기단계라, 기술의 투명성이나 공정성 등에 대한 사회적 신뢰가 충분하지 않은 상황이다. LG CNS의 조현선 박사도 “AI가 다양한 분야에 도입되고 있지만 제도 미비, 신뢰성 부족, 양질의 데이터 부족 등을 이유로 금융권에서는 생각보다 잘 쓰이지 않고 그만큼 발전도 덜 이뤄지고 있다고 평가되고 있다”며 "외부 이해관계자들이 납득할 수 있는 이유를 제공할 수 있도록 모델의 결정을 투명하게 만드는 일이 중요하다"고 말했다.

조 박사는 "설명가능한 AI가 내놓은 결과를 해석할 때도 주관성이 개입돼 보는 사람마다 다른 결론을 낼 수 있다"며 "의사결정의 보조적 지표로 사용돼야 하고, 다양한 AI 모델을 앙상블(다수의 모델이 낸 결과를 모아 최종 결과를 내놓는 기법)하는 방법을 적용하는 것도 바람직하다"고 말했다.

15일 한국은행에서 열린 2023 한국통계학회-한국은행 공동포럼에서 참여자들이 단체사진을 찍고 있다. 출처=한국은행

박유진 기자 genie@asiae.co.kr