“马斯克参与”呼吁暂停人工智能开发公开信掀起“假签名”争议

by Jang Heejun

Published 02 Apr.2023 11:25(KST)

未核实习近平主席等姓名就上传
部分研究者也质疑：“动机令人怀疑”

包括特斯拉首席执行官（CEO）Elon Musk 在内的多名全球信息技术（IT）企业人士和专家，上月呼吁暂时中断最前沿人工智能（AI）系统开发并发表公开信一事，陷入争议。这封信中的部分签名被证实为伪造，甚至连被作为证明 AI 开发风险依据而被引用论文的原作者们，也加入批评行列，称其论调过于夸大。

据英国《卫报》等媒体当地时间1日报道，这封由美国非营利机构“未来生命研究所（FLI）”主导起草并于上月22日公开的公开信，共有1800余人署名，其中一部分事后被揭露为“假签名”。例如，中国国家主席习近平以及脸书母公司 Meta 的首席科学家 Yann LeCun 等人，其实从未同意公开信内容，却被列入签名者名单。尤其是 LeCun，还通过推特公开表态称自己不支持这封公开信的内容。

人工智能（AI） [图片来源=韩联社]

《卫报》解释称，由于在公开信发布前未能对签名者身份进行充分核实与审查，才出现了上述问题。这封有争议的公开信，呼吁将超越“ChatGPT”开发商 OpenAI 最新大型语言模型（LLM）GPT-4 的 AI 系统开发工作中止6个月。信中主张，通过共同的安全协定，在人类能够控制超大型 AI 所可能带来的风险之前，应当暂停相关 AI 的开发。

然而，一些被公开信引用以展示最前沿 AI 危险性的论文和研究资料的原作者则指出，FLI 提出上述主张的动机令人怀疑。

曾在谷歌任职、目前在 AI 研究初创企业 Hugging Face 担任首席伦理科学家的 Margaret Mitchell 指出，公开信将“超越 GPT-4 的 AI”列为应当停止开发的对象，却连这一概念具体指什么都没有说明。她批评称：“这封公开信把许多可疑的想法当作理所当然的事实，同时提出了有利于 FLI 资助者的优先事项和关于 AI 的叙事。”有分析认为，如果信中内容真正付诸实施，FLI 的主要资助方 Musk 基金会将相对受益。

除 Mitchell 之外，据悉至少还有3名被公开信引用研究资料的原作者公开表示，反对暂时中断 AI 开发。美国康涅狄格大学助理教授 Siri Dorri Hacohen 指出：“AI 即便达不到人类水平的智能，也足以在气候变化、核战争等各类风险方面起到推波助澜的作用，而这些问题已经在现实中发生。此时再去停止开发超越 GPT-4 的 AI，意义并不大。”