由韩国研究团队主导制定的用于验证人工智能（AI）系统安全性和可信性的国际标准已经正式通过。
韩国电子通信研究院（ETRI）19日表示，定义AI系统测试程序和方法论的《AI系统测试概要》标准已通过国际标准化组织/国际电工委员会联合技术委员会1（ISO/IEC JTC1）正式制定为国际标准。
主导制定人工智能测试国际标准的 ETRI 首席研究员 Jeon Jonghong（右）与共同编辑兼主席 Stuart Reid 博士（左）。韩国电子通信研究院提供
View original image此次成果的意义在于，这是在ISO/IEC人工智能技术委员会（SC 42）框架下，由韩国主导制定的首个AI测试核心国际标准。这表明，在全球AI技术霸权竞争中，ETRI已经从“快速追赶者（Fast Follower）”转变为“引领者（First Mover）”。
《AI系统测试概要》标准首次定义了涵盖AI数据质量、模型性能、偏见性等内容的全生命周期测试方法论，预计今后将被用于国际公认测试、国际一致性测试评估等领域。
具体而言，该标准在现有软件测试标准基础上，扩展适用于AI系统，新增了符合AI特性的测试阶段，如数据质量测试和模型测试等。外界评价认为，这为从作为AI系统核心要素的数据质量到模型性能的综合验证奠定了基础。
为事先排查AI的潜在风险，ETRI还引入了“基于风险的测试”概念。通过这一概念，具体化了多种AI特化测试程序，包括：为验证AI偏见性的“偏见性测试”、利用输入值变化的“对抗性测试”、确认运行过程中性能下降的“漂移测试”等。
该标准有望作为“总论”性质的标准，成为今后将要制定的AI红队测试以及生成式AI测试等后续标准的基础。
ETRI院长 Bang Seungchan 表示：“保障AI的安全性和可信性是AI时代的核心课题”，“AI系统测试国际标准的制定，将成为韩国不仅在AI技术本身，而且在AI测试与评估规范方面发挥引领作用的基石”。
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。
