[双面AI]③ChatGPT之父也呼吁监管：“必须装上刹车”

有案例显示，美国空军的一架人工智能（AI）无人机在虚拟训练中判断操作者妨碍其完成任务目标，从而对操作者发动了攻击。近日在网上流传、引发全球轰动的所谓“五角大楼爆炸照片”也出自这一背景。正是一张在网上公开的照片，就令金融市场一度震荡。爆炸传闻刚一传出，道琼斯30种工业平均指数在短短4分钟内急跌近80点。尽管事后证实，这张照片是生成式AI制作的假图，但其影响相当巨大。

各界要求配合AI技术进化速度进行监管的呼声日益高涨，因为围绕ChatGPT等生成式AI的副作用和滥用案例的担忧不断增加。

Sam Altman（OpenAI首席执行官）和 Demis Hassabis（谷歌DeepMind首席执行官）等人工智能领域的领军人物率先对AI的危险性发出警告。非营利机构“AI安全中心”于上月30日（当地时间）发表声明称，“缓解AI带来的灭绝风险，应当与疫情或核战争等其他社会级别风险一道，被列为全球优先应对事项”。包括上述人士在内，已有350余名AI领域科学家在声明上签名。被称为“AI之父”的 Geoffrey Hinton 博士近日从谷歌离职时表示：“我一生都在努力打造能追上人类大脑的计算机，但如今无论计算机学习什么，最终都会超越人类。”

图片由路透社 联合通讯社提供

View original image

率先抢占AI市场的全球企业经营者之所以强调监管的必要性，是因为他们认为，若AI技术被大量恶意利用，可能引发严重的社会混乱。世界各国正加快制定“AI监管政策”。最早讨论引入AI监管法的是欧盟（EU）。欧盟计划将过去两年一直讨论的《人工智能法案》（AI Act）草案提交至下月的欧洲议会全体会议表决。该法案拟按风险程度将AI应用程序分为4个等级，对最危险、被归类为“不可容忍”等级（可能操控人类、危害弱势群体）的应用，禁止其使用。

在美国，正在讨论追究因AI错误决策导致损害的责任归属的《算法责任法》，以及阻止AI收集个人数据的《数据个人信息保护法》。中国也发布了载明AI企业必须遵守规则的指导意见草案。企业在推出与AI相关的服务前，必须接受主管部门的安全评估，用户则必须实名制使用。服务提供商在AI给出不当回答时，须在3个月内制定防止再次发生的对策。如不遵守相关规定，将面临罚款、服务中止等处罚。

相关文章

[双面AI]①冒充安全专家…瞬间入侵IP摄像头

• [双面AI]②防护也在进化…80万亿市场全面开启

韩国也在制定应对方案。提交至国会的AI相关法案已超过10件，其中大多为监管性法案。政府方面也在进行系统性审议。首先，政府决定在今后5年内向安全技术研究开发（Research and Development）投入4000亿韩元。此外，还将与韩国互联网振兴院合作，在2025年前培育50家安全企业。Gachon大学法学系教授 Choi Kyungjin 表示：“操之过急的AI监管举措反而可能适得其反，因此必须精细、周密地做好准备”，“应根据风险程度进行差异化，提高相应的安全与监管水平。”

版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。