与澳大利亚、美国等7国联合发布
韩国国家情报院5日与澳大利亚信号局、美国国家安全局等7个主要国家的网络安全机构共同发布了《人工智能供应链风险及缓解方案》。
澳大利亚信号局担忧由于人工智能供应链的复杂性，导致隐藏后门等风险因素增加，起草了相关建议书，并请求国家情报院参与。本次建议书的特点在于，将人工智能视为一种自设计阶段起就必须内生安全性的系统，而不是在部署之后才进行管理的对象。
建议书从数据、机器学习模型、软件、基础设施与硬件、第三方服务等5个方面，阐述了与人工智能供应链相关的风险因素及缓解方案。建议书指出，质量低劣且存在偏见的人工智能数据可能导致判断错误，并建议使用来自可信来源的数据以降低风险。建议书还强调，机器学习模型可能发生隐藏恶意代码或植入后门等安全事故，因此必须使用安全的文件格式或透明的模型。
根据建议书，人工智能基础设施在被注入恶意固件时会伴随新的安全风险，因此应适用现有信息安全系统的安全原则，通过网络隔离或自有认证等方式进行严格管理。
国家情报院继2023年11月与美国、英国等国共同发布安全人工智能开发指南之后，又在去年12月发布了人工智能安全指南手册，持续提出应对人工智能供应链攻击的对策。
国家情报院相关人士表示：“本次建议书从供应链角度系统梳理了人工智能特有的风险，并提出以事前预防为中心而非事后应对的安全管理方向，意义重大”，并称“今后将以与主要国家的伙伴关系为基础，支持在国内安全利用人工智能”。
本报道由人工智能(AI)翻译技术生成。
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。
