被“黑箱”遮蔽的致命风险…甚至可能导致人类灭绝 [AI安全性危机]

by Choi Yuri

Published 24 Apr.2024 07:00(KST)

Updated 24 Apr.2024 13:33(KST)

open/close

不了解事故过程的人工智能：难以预测的风险性
“拥有核武般威力”——警告人工智能武器化与失控
专家称“需建立技术与制度层面的安全装置”

3月，乌克兰战争中首次出现了在无人类控制下自动攻击敌军的人工智能（AI）无人机。乌克兰军队公开的视频显示，这种AI无人机对俄军坦克实施炮击，将其当场摧毁。在以色列与哈马斯之间的战争中，甚至还出现了制作“杀伤名单”的AI。由AI来生成应当击毙哪些敌人、攻击哪些建筑的名单，再由情报人员批准。AI提交错误名单的可能性高达10%，但军人们仍以此为基础执行作战行动。AI被用作杀伤性武器这一前所未有的情况已经发生。一旦脱离人类控制，或许会带来超越核武器的危险。

图片由 DALL·E 3 提供

随着AI的高速发展，关于其危险性的忧虑也在不断加深。由AI引发的假新闻、版权侵权等问题已经浮出水面，而更大的风险则潜伏在难以衡量的水面之下。AI正日益参与更多决策过程，但人类却无法知道它为何做出那样的决定，因此它被视为“未知的对象”。有警告指出，如果在AI开发中不设定不可逾越的“红线”，AI甚至可能导致人类灭绝。

AI常被称为“黑箱”。这是因为在产生结果之前所经历的过程并不清晰可见。由于要经过海量数据学习和复杂运算，哪怕是算法设计者也难以推理这一过程。正因为无法预知它何时会给出怎样的结果，它可能成为一枚“定时炸弹”。学界甚至专门研究一种让人类能够准确理解AI判断过程的技术——“可解释的AI”。

难以理解的错误远不止一两例。聊天机器人ChatGPT在推出初期，屡次给出诸如炸弹制造方法、钓鱼邮件写法等有害回答。用户诱导ChatGPT打破禁忌、实现所谓“越狱”的案例层出不穷。由于无法准确弄清其越狱的具体原理，开发团队只能事后通过加密“护栏”的方式进行应对。

已无限期中止图像生成功能的谷歌“Gemini”也不例外。它曾生成身着韩服的黑人外貌朝鲜时代将军等与史实完全不符的图像，引发争议。该功能在上线不到一个月就因错误而被叫停，但谷歌至今仍未找到解决方案。外界只能推测，这是由训练数据的偏向性以及为矫正偏向而采取的技术措施共同造成的结果。

图片由Getty Images联合新闻提供

随着AI发展速度加快，其风险程度也难以估量。业界接连预测，数年之内将出现像人类一样思考的通用人工智能（AGI）。AI变得越聪明，就意味着人类无法理解的黑箱范围越大。Frontier Model Forum主席Chris Meserole在本月12日举行的“生成式AI红队挑战”上指出：“没有人知道AI技术到底蕴含何种风险，唯一可以确定的是，AI越发展，安全性就越低。”Frontier Model Forum是由OpenAI、谷歌、微软（Microsoft）、Anthropic为识别AI潜在风险而成立的组织。

各方警告不断。近期，民营企业Gladstone AI应美国国务院委托发布的《提升先进AI安全性与保安性的方案》报告中提到，“AI有可能导致人类灭绝”。报告尤其将“武器化”和“失去控制力”列为AI的主要风险因素，认为AI可以被用于生化战、网络战等领域。由AI专家组成的非营利组织AI安全中心（Center for AI Safety，CAIS）在《致命AI风险概览》报告中，将AI的发展比作核武器的威力。报告指出：“AI正在逐步演变为无需人类干预即可自主执行任务的代理体”，“它可能会为存在问题的目标辩护，对控制加以抵抗，甚至欺骗人类。”如果以“毁灭人类”为目标的AI代理体出现，它为研究核武器、调动其他AI而撰写推文之类的情景，都可能成为现实。

专家强调，必须对这类风险作出应对。企业应开展安全、负责任的AI研究开发（Research and Development）。也有声音呼吁政府建立针对AI的监管与监督机构，并加强相关的国际协作。首尔大学AI研究院院长Jang Byungtak表示：“关于AI安全性的讨论已经刻不容缓，需要在技术和制度层面建立安全装置。”