“要阻止因AI导致的人类灭亡”……美国AI专家发出警告

by Kwon Haeyoung

Published 31 May.2023 09:35(KST)

AI安全中心：“与大流行病和核战争一样威胁人类”

“人工智能（AI）存在让人类走向灭亡的风险。”

在近期包括生成式人工智能在内的人工智能技术发展备受关注之际，美国数百名人工智能科学家发表联合声明发出警告。此前，以特斯拉首席执行官（CEO）埃隆·马斯克为首的1000多名人士发表声明，呼吁暂时中止人工智能开发6个月。两个月后的今天，要求在可控范围内发展人工智能的呼声愈发高涨。

美国人工智能安全中心于30日（当地时间）发布了一份由22个单词组成的一句话声明，称“缓解人工智能给人类带来的灭亡风险，必须与消除传染病大流行、核战争等社会性风险一样，成为优先事项”。其意在强调应当启动关于人工智能可能造成的严重风险的讨论。

包括管理层、研究人员、开发者在内的350多名人工智能从业者在这份声明上签名。掀起人工智能热潮的“ChatGPT之父”、OpenAI首席执行官 Sam Altman，微软（Microsoft）首席技术官（CTO）Kevin Scott，谷歌人工智能高管 Lila Ibrahim、Marian Rogers，以及前联合国裁军事务高级代表 Angela Kane 等人均参与联署。

这份声明是在对人工智能发展所带来的虚假信息和社会偏见扩散、岗位减少等副作用的担忧日益加剧的背景下发布的。人工智能在学习海量数据后会模仿人类的反应和应对方式，一旦被误用或恶意利用，所造成的危害将十分严重，这份声明也为这一预测增添了分量。

尤其是自 ChatGPT 推出以来，对人工智能的投资激增，人们愈发担心这一产业可能发展到难以控制的程度。在人工智能半导体市场中占据约90%份额的英伟达（NVIDIA），借助人工智能热潮股价近日大涨，当天盘中市值一度突破1万亿美元。

目前，人工智能专家与各国政府正在就监管人工智能展开讨论。此前，Altman CEO 出席美国国会听证会时表示：“如果这项技术出错，可能会出大错。为防止这种情况发生，我希望能与政府合作。”美国行政当局认为，人工智能可能对公共安全、个人信息和民主制度构成威胁，正在寻求监管方案；欧洲联盟（EU）也在推进引入《欧洲人工智能法》。