[AI安全危机]“韩国再拖就难以进入全球市场”……试图成为“规则制定者”的欧盟和美国

“如果不为人工智能（AI）制定规范，国内企业在全球市场上可能会难以竞争。”

关于必须为高速发展中的人工智能技术设置安全装置的呼声日益高涨。随着以欧洲和美国为首的国家陆续制定制度性装置，国内也被指亟需制定相关法案。如果落后于全球标准，国内人工智能产业的发展与成长可能会受到限制。国际人工智能伦理协会会长、首尔女子大学正确AI研究中心主任 Kim Myeongju 表示：“处在监管盲区的国内人工智能企业一旦进军欧洲等海外市场，可能会遭遇意想不到的障碍”，“需要制定共同规范，使其要么能够重新按照海外监管要求开发人工智能技术，要么避免成为封锁对象。”

Kim Myeongju 国际人工智能伦理协会会长（首尔女子大学 正直AI研究中心主任）

View original image

走在前面的欧盟（EU）正在准备俗称“人工智能法”，并将从2026年起正式实施。该法将人工智能相关风险分为四类：最低风险、有限风险、高风险、不可接受，并针对各类风险制定了监管措施。尤其是有限风险类别，以聊天机器人、存在深度伪造风险的内容为对象，要求明确标示为人工智能生成内容。与基础设施相关的人工智能被归类为高风险，通过安全、管理、追踪系统等手段赋予其透明义务。不可接受类别则针对操纵人类潜意识、生物信息分类系统相关的人工智能，除重大犯罪外原则上禁止使用。

美国也在2023年10月出台了《安全且值得信赖的人工智能行政命令》。该命令要求，如果美国企业开发的人工智能对国家安全、经济或健康造成风险，须将相关情况通报联邦政府，并与政府共享人工智能安全测试结果及关键信息。联邦政府机构在利用人工智能时，必须公开相关内容，并进行副作用验证与监测。

Kim 会长表示：“欧盟的人工智能法表面上看似一味强调监管，但其中也单独设置了促进发展的条款”，“由于与人工智能相关的技术发展速度极快，像欧洲的人工智能法那样，先进行抽象性定义，再通过实施细则等方式制定具体方案，似乎更为妥当。”

欧洲、美国等地已经正式启动与人工智能相关的监管。尤其是英国和美国签署了双边协定，在人工智能安全方面就知识与信息等安全性核查展开相互合作。但在国内，不仅法案尚未制定，连国会层面的讨论也未得到妥善推进。虽然已经提出了《人工智能基本法》（关于人工智能发展与信任基础构建等的法律案），但目前仍滞留在国会。如果在第21届国会任期结束前未能在全体会议上通过，该法案将自动废弃。

View original image

人工智能初创企业虽然对事前监管保持警惕，但也认同为夯实基础而立法的必要性。一位要求匿名的人工智能初创企业代表表示：“目前正处于必须对迄今为止的投资证明人工智能经济价值的阶段，监管可能在市场尚未形成、企业尚未成长之前就将其摧毁”，但同时也称：“虽然需要‘先许可后监管’、民间自律检查等政策方向，但从另一个角度看，人工智能商业化确实需要法律和行政基础，因此有必要在立法中予以体现。”

相关文章

被“黑箱”遮蔽的致命风险…甚至可能导致人类灭绝 [AI安全性危机]

• [AI安全性危机]连“别叫那家伙一起吃饭”都发出警告的Naver红队…安全性指标创最高值
• [AI安全危机]技术将改变日常生活…韩国44%表示“感到害怕”

在国内《人工智能基本法》制定迟迟未有进展的情况下，定于下月21日至22日由韩国与英国政府联合举办的“首尔人工智能峰会”有望成为转折点。该会议是继2023年11月在英国举行的“人工智能安全性峰会”之后的后续会议，将讨论人工智能安全性、促进创新等议题，并分享具体合作方案。Kim 会长表示：“英国因脱欧已退出欧盟（EU），在制定人工智能相关法律方面，目前与我们一样处在欧盟与美国之间”，“由于两国处境相似，可以保持步调一致，在监管方向、产业振兴方面也有望展开建设性讨论。”

版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。