[新闻术语]限制人脸识别，全球首部监管法《AI 法案》

Published 05 Feb.2024 16:26(KST)

由欧洲联盟（EU）27个成员国批准的《人工智能法案（The AI Act）》是一部以限制生物特征信息收集、强化透明度义务等为核心内容的人工智能监管法案。

3年前由欧盟委员会提出后，于去年（2023年）6月形成草案，并在同年12月通过了欧盟立法程序中最关键的关口——欧盟理事会、欧盟委员会和欧洲议会三方之间的三方协商。此后，于本月2日（当地时间），该法案在由欧盟27国大使级常驻代表组成的常驻代表委员会上获批最终妥协文本，目前只剩下欧洲议会表决程序。若在即将到来的13日经欧洲议会相关委员会表决通过，并于3月或4月在议会全体会议上最终获得通过，全球首部人工智能监管法案将由此诞生。

欧盟27国最终达成妥协的《人工智能法案》核心在于，按照技术风险等级进行分类，并对不遵守规定的企业处以罚款。

首先，人工智能技术将按风险等级分为4个级别。按照该分级，人脸识别技术被划入最高等级，事实上等同于被禁止。原因在于，人脸识别这一最为敏感的个人信息数据一旦被滥收滥用，可能侵犯个人隐私，并对数据安全构成严重威胁。不过，出于国家安全、刑事侦查、安全保卫等目的，可以作为例外予以使用。在影响选举等民主程序的情形下，也将被归类为高风险人工智能技术。

法案还禁止在社交媒体等平台上利用人工智能进行所谓“社会评分”（social scoring），即对个人或企业等的社会影响力进行量化打分。此举旨在防止利用人工智能恶意放大网络上的社会认知度。

同时，《人工智能法案》还对监管对象中的“高风险人工智能”和“通用人工智能”作出明确界定，并规定必须履行报告义务。特别是，使用自动驾驶汽车或医疗设备等高风险技术的企业，必须公开与人工智能相关的数据，并经过严格测试；对于OpenAI的GPT和谷歌的Gemini等大型语言模型（Large Language Model），法案也施加了透明度义务，包括遵守欧盟版权法、公开用于训练的内容摘要等。