금융위, 3중 내부통제장치 마련 등 '금융분야 인공지능 가이드라인' 공개

도규상 부위원장, '제1차 디지털금융협의회' 개최

[아시아경제 김진호 기자] 금융위원회는 8일 '금융분야 인공지능(AI) 가이드라인'을 공개했다. 가이드라인은 금융권 AI 활성화와 AI 기반 금융서비스의 대한 신뢰 제고에 초점이 맞춰졌다.

금융위는 이날 도규상 부위원장 주재로 '제1차 디지털금융협의회 데이터 분과회의'를 열어 AI 기반 금융서비스 개발을 위한 가이드라인을 발표했다.

우선 AI 서비스의 책임있는 운영을 위해 AI 윤리원칙 마련, AI 조직 구성, 위험관리정책 수립의 3중 내부 통제장치를 마련하도록 했다. AI 윤리의 경우 금융사는 회사별 가치, AI 활용 상황 등에 따라 AI 서비스 개발과 운영시 준수해야할 원칙 및 기준을 수립해야 한다. 또 AI의 잠재적 위험을 평가 및 관리할 구성원의 역할과 책임 그리고 권한을 서비스 전단계에 걸쳐 구체적으로 정의하도록 했다.

특히 AI 서비스 자체 평가 및 관리정책을 마련하고 개인권리에 중대한 위험을 초래할 수 있는 서비스에는 강화된 위험관리도 적용했다. 예컨대 AI 의사결정이 신용평가, 대출심사 등 개인의 금융거래계약의 체결 및 유지에 중대한 영향을 가져오는 경우 내부통제와 승인절차를 마련하고 별도의 책임자를 지정하도록 했다.

AI 개발 및 학습단계에서 질 좋은 데이터가 활용될 수 있도록 AI 학습에 사용되는 데이터의 출처나 품질, 편향성, 최신성 등을 조사 및 검증하고 개선노력을 지속하도록 했다. 개인신용정보 오남용이 없도록 정보보호도 강화한다. 사생활 정보 등 민감정보를 활용할 경우 비식별조치 등 안전한 정보 활용을 위한 충분한 조치를 거치게 했다.

아울러 AI 활용결과 불합리한 소비자 차별 등이 나타나지 않도록 서비스 특성별로 위험요인을 통제하고 서비스 공정성을 제고할 방침이다. 금융소비자가 AI 서비스에 대한 충분한 설명을 듣고 자신의 권리를 충분히 행사할 수 있도록 제도권 보완도 요구하기로 했다.

금융위는 이 같은 내용을 골자로 한 '금융분야 AI 가이드라인'을 연내 시행할 계획이다. 금융업권 및 기능과 서비스별 특성도 감안해 가이드라인을 구체화한 세부 실무지침도 함께 마련하기로 했다.

도 부위원장은 "AI 기술혁신의 과실이 금융소비자에게 돌아갈 수 있도록 금융권의 지속적인 협조와 노력을 바란다"고 당부했다.

김진호 기자 rplkim@asiae.co.kr