ETRI主导制定人工智能安全性与可靠性国际标准

by Jeong Ilwoong

Published 19 Aug.2025 10:31(KST)

韩国电子通信研究院（ETRI）19日表示，已向国际标准化组织（ISO/IEC）提议制定提前发现人工智能（AI）系统风险的“AI红队测试”标准，以及便于消费者轻松理解AI信任水平的“可信度事实标签（TFL）”标准。

ETRI研究团队正在说明按照人工智能系统开发全周期划分的红队类型及适用标准。韩国电子通信研究院提供

ETRI向国际标准化组织提案的“AI红队测试”，是一种以攻击性方式探索和测试AI系统安全性的方法。例如，预先发现生成式AI输出错误信息，或绕过用户保护装置被恶意利用等情况，都是此类测试的典型案例。

ETRI担任该领域国际标准——国际标准化组织“42119-7”的编辑，正在开发可适用于医疗、金融、国防等领域的国际通用测试程序和方法。

此外，ETRI还与首尔峨山医院合作，开发医疗专用红队评估方法论，构建针对应用尖端AI技术的数字医疗产品的红队测试体系，并开展实证测试。与此同时，ETRI还与STA、Naver、Upstage、Selectstar、KT、LG AI研究院等主要企业组建协商体，加强在AI红队国际标准化方面的合作。

目前，ETRI也在主导以可信度事实标签为核心的国际标准化组织“42117系列”标准的制定工作。该标准可通过企业自行提供信息，或由第三方机构进行验证与认证等多种方式运行。

其核心功能是将AI系统的可信度可视化，让消费者像查看食品营养成分表一样，一目了然地获取透明信息。今后还在研究将AI的碳排放量（碳足迹）等环境、社会和公司治理（ESG）要素一并纳入的方案。

这一标准还将与作为人工智能应用组织国际认证标准的“AI管理系统标准（ISO/IEC 42001）”相衔接，可作为证明所开发产品和服务可信度的框架加以利用。

“AI红队测试”标准和“可信度事实标签”标准也与政府推进的“主权型AI（Sovereign AI）”和“AI G3跃升”战略相契合。这意味着，有望在超越单纯技术实力竞争、参与制定全球AI规则的话语权竞争中作出实质性贡献。

ETRI标准研究本部长 Lee Seungyun 表示：“AI红队测试和可信度标签是美国、欧洲联盟（EU）等各国AI监管政策中包含的核心技术要素。今后确立的AI红队测试和可信度标签国际标准，将作为共同基准，用于评估全球AI系统的安全性和可信度。”

本报道由人工智能(AI)翻译技术生成。