IBM副总裁：“AI要赢得信任才能加速发展……需有效监管与开放性”

by Choi Yuri

Published 23 May.2024 15:14(KST)

Updated 23 May.2024 15:21(KST)

open/close

Christina Montgomery 出任 IBM 人工智能伦理委员会主席

IBM强调了人工智能（AI）的可信度和安全性。只有成为值得信赖的技术，才能获得用户的选择，并在此基础上加快发展速度。IBM指出，提高AI可信度的条件是有效的监管和开放的社区。

IBM AI伦理委员会主席（副总裁）Christina Montgomery于23日在首尔汝矣岛国民IBM总部举行集团采访时作出上述表示。Christina副总裁此次访韩是为出席从本月21日起为期两天举行的“首尔AI峰会”。IBM在本次峰会上参与了强调AI安全性的“首尔AI企业承诺”。

IBM人工智能伦理委员会主席兼副总裁 Christina Montgomery [照片由韩国IBM提供]

Christina副总裁认为，要实现安全的AI，既需要有效监管，也需要企业承担责任。所谓有效监管，并非对AI技术本身进行一刀切监管，而是根据具体使用案例进行差异化监管。她表示：“用于个人信用评估的算法和用于餐厅推荐的算法并没有本质区别，应当根据技术被应用的具体场景来制定监管规则。”

她强调，应当就此持续开展国际层面的讨论。就像去年在英国、今年在韩国、明年将在法国举行AI峰会一样，国际社会需要持续讨论AI安全问题。Christina副总裁表示：“如果各企业和各国政府各自为政、碎片化推进，将很难确保安全性，因此各方参与者持续开展协作极其重要。”

她同时强调了部署和使用AI的企业也必须承担责任。作为这一努力的一部分，IBM在5年前率先于业界设立了AI伦理委员会。据介绍，从AI开发阶段起，IBM就将安全与伦理置于优先位置，力求在评估新技术影响的基础上，将副作用降到最低，并在创新与风险之间取得平衡。她表示：“当一项新技术赢得信任时，才会被采纳和使用，这样技术创新才能加速推进。”

另一方面，她还强调了开放性。她认为，只有公开数据和AI模型等技术，才能有效防范潜在风险。各类利益相关方对AI模型进行细致审查、提前识别脆弱点，解决问题的可能性才会更高。

为推动开放性，IBM于本月21日（当地时间）在美国波士顿举行的年度活动“THINK”上宣布，将AI模型Granite开源。IBM已在开发者共享技术的平台Hugging Face和GitHub上发布该模型。IBM表示，通过公开其性能最强的模型，希望借此获得改进和提升的机会。