Aim Intelligence与KT签署协议…携手构建安全可信的AI

by Kim Bokyung

Published 03 Sep.2024 08:30(KST)

两家公司构建网络威胁应对技术
红队协作开发安全性评估标准

生成式人工智能（AI）安全技术初创企业 Aim Intelligence 与 KT 携手合作，应对网络威胁并推动安全的 AI 模型普及。

双方表示，于3日签署了《基于人工智能模型的安全与安全性（Security & Safety）验证体系技术联合研究及威胁应对技术构建业务合作协议（MOU）》。

两家公司同意在以下领域开展相互合作：▲生成式 AI 模型安全与安全性验证体系技术联合研究 ▲开发可消除已识别漏洞的模型防御及强化技术 ▲应对网络安全威胁并推动安全的生成式 AI 模型普及等。

Aim Intelligence 表示，为推动安全 AI 模型的普及，将提供生成式 AI 安全性诊断（红队测试），并结合漏洞自动探测与拦截、防御技术（Guardrail）。

Aim Intelligence 红队由今年4月政府主办的生成式 AI 红队挑战赛获奖者组成。

生成式 AI 红队，是指在受控环境中采用对抗性方法，对 AI 系统进行结构化测试，以识别系统产生有害或歧视性结果、系统被滥用等缺陷和漏洞。包括 OpenAI、谷歌、Naver Cloud 在内的国内外 AI 企业也纷纷组建并运营自有 AI 红队，被视为 AI 企业确保 AI 安全与可信度的核心手段之一。

双方将通过本次协议开展多种活动，以提升生成式 AI 的安全性与安保水平。Aim Intelligence 与 KT 红队将通过相互协作，共同开发用于评估生成式 AI 模型安全性的基准（Benchmark）。

KT 首席信息安全官（CISO）Hwang Taeseon 表示：“我们将尽最大努力通过双方合作来推广安全的生成式 AI 模型。”Aim Intelligence 首席执行官 Yoo Sangyun 表示：“我们将与 KT 共同努力，提供任何人都能放心使用的安全生成式 AI 服务。”