Naver公布AI安全实践体系…以安全AI进军全球

by Choi Yuri

Published 17 Jun.2024 09:16(KST)

国内首个AI安全体系设计完成
风险缓释应对机制同步构建

17日，NAVER通过其自有技术频道“Channel Tech”发布了“NAVER人工智能安全框架（ASF·AI Safety Framework）”。这是NAVER为在开发和部署人工智能系统的全流程中，识别、评估并管理人工智能潜在风险而构建的应对体系。设计并实践人工智能安全体系在韩国尚属首次。

京畿城南 Naver 总部大楼。照片=记者 Kang Jinhyung aymsdream@

NAVER ASF的特点在于，将人工智能系统可能带来的风险分别界定为“失去控制风险”和“被恶意利用风险”，并据此设计应对方法。首先，为了缓解人类对人工智能系统“失去控制风险”，NAVER通过“人工智能风险评估刻度”定期评估和管理人工智能系统的风险。NAVER将当前性能最强的人工智能系统定义为“前沿（frontier）人工智能”，对达到这一技术水平的人工智能系统，每3个月进行一次风险评估。如果系统能力较既有水平骤增至6倍以上，则在该时间点额外开展评估。

对于NAVER ASF所界定的人工智能系统另一项潜在风险——“被恶意利用”的可能性，则通过“人工智能风险评估矩阵”来应对。人工智能风险评估矩阵会根据人工智能系统的使用目的以及对安全措施的需求程度，以不同方式管理风险。例如，对于用于生化物质开发等特殊目的的人工智能系统，仅向具备特殊资质的用户提供，以此降低风险。若某一人工智能系统无论使用目的为何，其对安全措施的需求程度都很高，则在通过额外的技术性和政策性安全措施将风险降至可控之前，不予部署。

NAVER计划以体现文化多样性的人工智能安全体系为方向，进一步发展NAVER ASF。NAVER将与韩国以外地区的政府及企业共同开发“主权（Sovereign）人工智能”。所谓主权人工智能，是指国家或企业利用自身基础设施和数据构建独立的人工智能能力。对于只在特定文化圈内可能出现的人工智能系统风险，NAVER还将结合各文化圈特性，对识别方法和衡量风险程度的基准进行高度化。