[记者手记]获诺奖的“AI教父”在采访中反复强调的事

by Cho Seulkina

Published 11 Oct.2024 08:46(KST)

Updated 11 Oct.2024 12:51(KST)

open/close

今年诺贝尔奖的核心话题无疑是人工智能（AI）。继将物理学奖荣誉授予“AI 教父”之后，化学奖的主角同样是 AI。这无疑是一个清晰信号，表明 AI 已经成为无法逆转的时代潮流。

但在此时更值得关注的一点是：今年诺贝尔物理学奖得主、提出深度学习这一 AI 学习基础概念的多伦多大学教授 Geoffrey Hinton，不仅是这一领域的开创性学者，同时也是一直警告称 AI 未来将演变为控制人类社会的“杀手机器人”的人物。

《亚洲经济》在围绕 AI 展开的“末日论者（Doomer）与乐观开发者（Boomer）”对立最为激烈的 2023 年 12 月，通过共 8 次邮件往来，对 Hinton 教授进行了采访。当时在被问到“AI 何时会对人类构成‘生存威胁’”时，Hinton 教授回答称，“最早 5 年，最晚不超过 20 年”。他断言，在这一时间范围内，AI 的推理能力有 50% 的可能性会超越人类，而之后 AI 从人类手中夺走控制权的概率同样为 50%。以 AI 几乎日新月异的开发速度来看，Hinton 教授所描绘的未来很可能会比预想更早到来。

当时 Hinton 教授在接受本报采访时，最希望做到的，其实是在讨论方向尚不明朗的情况下，先向所有人抛出围绕 AI 的问题本身。尽管他对部分提问的回答很简短，但每一句话都凝结着难以用简单韩语转述的深度思考，可以清晰感受到他对每一个词语都极为慎重。

Hinton 教授在警告 AI 危险性的同时，并不认为监管就是答案。他表示，AI 比“核武器”更难监管，对监管效果本身也提出质疑。他还认为，主要国家和企业的开发压力绝不可能被完全阻挡。与此同时，他一方面担忧短期内通过伪造 AI 图像等方式进行选举操纵的可能性，另一方面也认同希伯来大学教授 Yuval Harari 关于“AI 可能引发全球金融灾难”的警告。在以数据为中心的金融市场中，一旦 AI 掌握控制权并开始创造新的金融工具，其风险几乎难以预判。

那么，当下全世界应当做什么？Hinton 教授的回答只有一句话：“现在是时候努力寻找一种方法，确保（AI）不会想要去控制人类。”对于“这是否意味着，在目前阶段，人类所能做的最好的事情，就是警惕 AI 的风险，并在各自岗位上持续展开相关讨论”这一追加提问，他只回复了一个词：“是的（Yes）”。

如今成为诺贝尔奖得主的 Hinton 教授，还被冠以“内部告发者（Whistleblower）”的标签。他此前那句“即便我不研究，也会有别人研究，我只能这样安慰自己”的带着悔意的吐露，恰恰是在全世界为 ChatGPT 带来的惊人技术进步与便利而狂热之时说出的，因此更显意味深长。

未来我们应当如何利用这一也许是祝福、也许是毁灭的 AI？而当下我们又该做好哪些准备？这些思考，已经不应再只是各国领导人和 AI 开发者的专属议题。