Kakao构建AI风险管理体系“Kakao ASI”，提前识别风险

by Lee Jungyun

Published 23 Oct.2024 09:34(KST)

卡卡欧于23日表示，已在人工智能（AI）技术开发和运营过程中，建立起一套能够事先识别并管理潜在风险的管理体系。

该体系名为“Kakao AI Safety Initiative（Kakao AI安全倡议，Kakao ASI）”，是一套旨在将AI技术开发及运营中的风险发生可能性降至最低，并构建安全且合乎伦理的系统的综合指引。相关内容通过卡卡欧的开发者大会“if kakao 2024”对外公布。

Kakao ASI尤其能够对从技术设计、开发、测试、部署到监控及更新等AI系统全生命周期中可能出现的风险进行前瞻性应对。该体系广泛管理由AI和人类共同引发的风险，并将因疏忽或失误而可能产生的问题也纳入全面的管理范围。

Kakao ASI由三大核心要素构成：▲Kakao AI伦理原则 ▲风险管理循环 ▲AI风险治理。Kakao AI伦理原则以2023年3月发布的“卡卡欧集团负责任AI指引”为基础，涵盖社会伦理、包容性、透明性、隐私保护、用户保护等原则，适用于开发者和用户。

风险管理循环由识别、评估、应对三个循环阶段构成，在尽量减少AI技术的不合伦理和不完备性、并确保安全性与可信度方面发挥关键作用。该循环贯穿AI系统的整个生命周期反复适用。

AI风险治理是指对开发、部署、使用等进行管理和监督的决策体系，包括组织内部的政策、流程、责任结构以及与外部监管的协调。在治理体系内，将从多角度审视相关风险。该体系由AI Safety、公司层面风险管理专门组织ERM委员会以及最高决策机构三层结构构成。

本报道由人工智能(AI)翻译技术生成。