贷款审查也用人工智能？必须提高“黑箱”透明度

by Park Eugenie

Published 15 Sep.2023 14:36(KST)

15日韩国银行-统计学会联合论坛
通过“可解释人工智能”高度化提升可信度

有观点提出，若要在贷款审查等金融领域引入人工智能（AI），必须利用可解释的人工智能来提升“黑箱”模型的透明度。

15日上午，在首尔市中区韩国银行本部以“可解释AI时代的经济统计扩充与应用”为主题举行的韩国统计学会—韩国银行联合论坛上，建国大学统计学系教授 Kim Seonghwan 表示：“如果引入判断是否可以发放信用贷款的AI，当某位客户的贷款被拒绝时，该客户要求说明拒贷理由，银行往往只能回答‘最新AI算法基于大数据作出了判断’，这就可能引发对黑箱模型可靠性的质疑。”

现有AI由于是对大数据进行机械式学习并给出结果，因此存在无法给出明确依据的局限。为克服这一缺点而提出的概念就是“可解释人工智能”。Kim 教授表示：“所谓可解释AI，是指能够对人工智能的结构给出可理解的说明，并对其决策提供合理性依据的系统”，“其目的在于缩小AI算法与人类对其信任度之间的差距。”

Kim 教授称，要将AI真正用于金融、经济统计预测等领域，需要超越学界，在实际业务现场展开讨论。原因在于，他强调存在三大难题：“金融数据本身难以收集，仅凭量化指标难以解释其中蕴含的社会心理因素，而且一旦运用AI算法，其社会波及效应巨大。”

金融领域对AI的应用仍处于初级阶段，社会对技术透明性、公平性等方面的信任尚不充分。LG CNS 的 Cho Hyunseon 博士也表示：“虽然AI正被引入到各个领域，但由于制度不完善、可靠性不足以及高质量数据匮乏等原因，金融圈对AI的使用远不如预期，其发展程度也相对滞后”，“要让外部利益相关方能够接受，就必须让模型的决策过程更加透明，提供可以让他们信服的理由。”