AI伦理与安全使用，由Saltlux联盟负责

Published 24 May.2024 10:47(KST)

随着人工智能（AI）快速发展，其带来的副作用引发的社会性不安和忧虑声音不断高涨。在不恰当回答和版权侵权争议之后，假新闻和深度伪造内容等恶意利用案例激增，各方正在持续努力打造“可信赖的AI”。

欧盟率先在全球通过了AI监管法案，联合国则以全票通过决议案，敦促就安全AI达成国际共识。21日，科学技术情报通信部发布了“新数字秩序确立推进方案”，并将确保AI安全性及可信度、伦理性列为核心课题之一。

AI企业Saltlux通过一个联合体，于23日表示，其入选为2024年第一批信息通信·广播技术开发项目及标准开发支援项目中新规支援对象课题——“面向社会性、伦理性学习的数据特性及生成式AI模型伦理性提升研究”。

这是隶属于AI及数据领域中下一代生成式AI技术开发事业的国家课题，目标是开发用于强化生成式AI社会性与伦理性的模型性能提升技术。尤其是，关于AI社会性判断的研究被称为全球首次尝试，项目经费规模约为49亿韩元。

Saltlux联合体中，参与的AI领域韩国顶级专家包括建国大学（Kim Haksoo教授）、西江大学（Gu Myeongwan教授）、首尔大学（Cheon Hyeondeuk教授）、成均馆大学（Ko Youngjung教授）、KAIST（Kim Gieung教授）、韩国电子技术研究院（高级研究员Kim San）、KT（常务Jang Doseong）、Diquest（研究所所长Kim Gyeongseon）等。不仅有AI及深度学习领域的工科研究人员，还汇聚了哲学、人文学、社会科学等多学科研究团队，被评价为为强化生成式AI的社会性与伦理性组建了最优团队。

课题的细化目标包括：▲制定符合多种普遍特性和各领域特点的生成式AI社会·伦理性指南；▲开发可持续及可扩展的社会·伦理综合应对服务平台核心技术；▲通过公开研究成果和实证验证实现扩散等。项目方计划开放任何生成式AI模型及服务开发者都可利用的Ethics-GenAIOps开放平台，并争取获得逾100万名用户。