马斯克呼吁“暂停开发人工智能6个月” 与众多名人联名公开信的原因

by Jeong Hyunjin

Published 30 Mar.2023 09:53(KST)

“应在可控风险下开发”
马斯克与Altman的宿怨是否产生影响引关注

“我们请求所有人工智能（AI）研究机构立即暂停开发任何性能超越GPT-4的AI系统，至少6个月。”

特斯拉首席执行官（CEO）Elon Musk、苹果公司联合创始人Steve Wozniak、世界级畅销书作家兼希伯来大学教授Yuval Harari等在内的全球知名人士1100余人，于28日（当地时间）在美国非营利机构“未来生命研究所（FLI）”发布的联合公开信上签名。

Elon Musk 特斯拉首席执行官 AP联合新闻供图

除他们之外，被视为全球顶尖AI权威的加州大学伯克利分校（UC Berkeley）计算机科学系教授Stuart Russell、被称为深度学习奠基人的蒙特利尔大学教授Yoshua Bengio，以及Alphabet旗下AI公司DeepMind的研究人员等众多知名AI专家也纷纷签名。开发图像生成AI“Stable Diffusion”的Stability AI公司CEO Emad Mostaque等AI企业相关人士也在其中。

掀起ChatGPT热潮的开发公司OpenAI的CEO Sam Altman并未出现在签名名单中。《华尔街日报》（The Wall Street Journal）报道称，Altman的名字最初出现在名单上，之后又被删除；Altman表示自己从未在这封公开信上签名。Alphabet CEO Sundar Pichai以及微软（Microsoft）的CEO Satya Nadella也未签名。

自去年11月末OpenAI公开ChatGPT以来，生成式AI在全球范围内掀起热潮。OpenAI近期发布了GPT-4，微软和谷歌则在搜索引擎中搭载AI聊天机器人，展开“拼速度”的竞争。在此背景下，各大企业CEO乃至AI专家，为何会请求暂停AI开发？

◆ “应在能够管控风险时再开发”

公开信指出，AI系统可能给社会和人类带来巨大的风险，因此需要加以管控，但近几个月来各AI研究机构却陷入了难以控制的开发竞赛之中。信中呼吁，在由独立专家制定并实施共同安全协议、且相关开发接受审计之前，应暂停大规模AI的开发。他们在公开信中强调：“只有在我们确信强大的AI系统能够带来积极效果，且其风险可以得到管控时，才应进行开发。”

图片由美联社联合通讯社提供

公开信还指出，当代AI系统正在与人类展开竞争，因此必须认真思考诸如“机器是否必须成为充斥宣传与不信任信息的主要渠道”“是否必须将所有工作自动化”等问题。信中强调，这类系统可能对社会和文明造成潜在威胁，呼吁开发者与监管机构合作。

这些知名人士发表公开信，被认为是对近期AI相关产业受到高度关注、却在几乎未受批判的情况下被快速开发的现状表示忧虑。大多数签署者此前已在公开场合多次表示担忧AI被滥用的可能性，并一再强调需要相关监管与政策。

随着人们对AI的关注升温，英国政府当天发布了AI白皮书，敦促监管机构根据AI的具体应用方式，制定“因地制宜”的情境化监管路径。白皮书估算，AI将为英国经济带来约37亿英镑（约合6万亿韩元）的经济效应，但同时强调，AI必须遵守现行法律，不得歧视个人，也不得导致不公平的商业结果。

欧盟（EU）警务机构欧洲刑警组织（Europol）前一天也警告称，ChatGPT等先进AI可能被滥用于网络钓鱼、虚假信息传播及网络犯罪等行为，并对由此引发的伦理和法律问题提出忧虑。

◆ “OpenAI早期投资人”Musk，与Altman恩怨已久？

在AI热潮高涨之际，这封公开信不仅因其内容和签名者名单备受瞩目，其发表背景也引发关注。

发布公开信的组织FLI究竟是什么机构？该组织在其官方网站上介绍称，其主要工作是向全世界揭示由AI、生物技术、核武器和气候变化等四大关键技术可能引发的风险。《华尔街日报》报道称，该机构自上周起便开始着手起草这封公开信。多家主要外媒援引欧盟透明度相关记录指出，该机构2021年预算的86%来自Musk基金会的捐款。

Sam Altman OpenAI首席执行官 [图片来源=路透社联合新闻提供]

Musk CEO曾是OpenAI的早期投资人。2015年，Altman CEO首次为募集投资举办加州的一场活动时，Musk就在现场，此后双方保持了合作关系。但在2018年，Musk CEO以特斯拉的AI研究与OpenAI之间存在利益冲突为由，从OpenAI董事会辞职。尽管当时的官方说法如此，但近期有报道称，真实情况是Musk CEO曾尝试收购OpenAI，却遭到Altman CEO及其他投资者的拒绝，最终选择退出董事会。据传Musk CEO当时认为，OpenAI的开发速度较谷歌明显偏慢。

Musk CEO多次谈及AI的危险性。自去年11月OpenAI发布ChatGPT以来，Musk CEO便通过自己的推特发文表示，“ChatGPT好到令人害怕。危险到可怕程度的强大AI已近在眼前”，持续表达关注。这一观点与此次知名人士公开信的内容颇为相似。Musk CEO还在上月批评称，“OpenAI最初是为了对抗谷歌、以开源方式保持平衡的非营利机构，如今却变成了由微软操控、以封闭源码最大化利润的公司”。

Altman CEO在去年12月首次听到Musk CEO指出ChatGPT的危险性时，曾回应“同意”。但据美国财经媒体《Business Insider》报道，他在本月25日参加一档播客节目时表示，“Elon显然正在推特上攻击我们”，并称希望Musk CEO能够认可OpenAI为解决AI问题所做的努力。在另一期播客节目中，他甚至用“混蛋（jerk）”一词形容Musk CEO。