[AI 新年专访]Geoffrey Hinton：“超越人类的人工智能夺取控制权的概率为50%”
AI泰斗独家专访① 警告“杀手机器人”的Doomer Hinton： “担心生存性威胁…监管AI远比管控核武器难得多”
“今后5至20年内，人工智能（AI）超越人类智能的概率为50%。此外，超越人类智能的AI从人类手中夺取控制权的概率也为50%。”
首次提出构成AI学习基础的深度学习概念、被称为“AI教父”的多伦多大学教授 Geoffrey Hinton，近日在接受《亚洲经济》新年专访时，就AI的危险性发出了上述警告。被誉为“计算机科学界诺贝尔奖”的图灵奖得主 Hinton 教授，去年突然离开谷歌时曾表示，自己后悔数十年来从事AI研究，此举一度引发热议。当时正值全世界为ChatGPT带来的耀眼技术进步和便利性而狂热之际。
Hinton 教授当天同样将AI比作“核武器”，并连番警告称，智能超过人类的AI今后可能演变为控制人类社会的“杀手机器人”。他将AI的运作方式比拟为人类大脑的神经网络，并指出，“最早在5年内，最迟不超过20年，AI的推理能力有50%的可能性会超越人类”。他还预测，学习了人类创造的一切并能自主生成、执行计算机代码的AI，“从人类手中夺取控制权的概率也为50%”。在这种情况下，AI将不再只是科幻（SF）电影中的情节，而会在现实世界中成为对人类的生存性威胁。
问题在于，就目前来看，人类不仅尚未对这种AI风险作出应对，连讨论的方向都尚不明晰。被视为典型AI“末日论者”（doomer）的 Hinton 教授，与其他“末日论者”不同，他并不主张暂时中断AI研究。谈及各国正在讨论的AI监管时，他指出：“目前非常不清楚什么措施会真正有效。AI发展速度极快，比核武器更难以监管。考虑到AI带来的种种好处，开发压力也极为巨大。”在他看来，从现实角度讲，中断AI研究或实施强力监管本身都并不容易。
对于“此刻全世界究竟该做什么”的提问，Hinton 教授仅回答称，现在是“必须努力寻找一种方法，确保（AI）不会想要去控制人类的时候”。当被追问这一回答是否意味着，在当前阶段，唯有对AI的危险性保持警惕，并在各自岗位上持续展开相关讨论才是最优解时，他答道：“是的。”此前，Hinton 教授也曾将自己向谷歌递交辞呈的理由，归结为“为了能够自由地讨论这一问题（AI的威胁）”。他之所以接受本报采访，也是出于希望向韩国读者警示AI的危险性，并共同思考这一问题的用意。
在美国、中国等国带动下，全球AI开发竞争日益加速之际，Hinton 教授还表示，有办法促成中国加入安全AI开发的行列。他称：“美中之间有一种可以促成合作的威胁，那就是AI（对人类实施）控制的威胁。两国都不希望看到这一点。”他的解释是，随着这一生存性威胁日益逼近，各国之间终将不得不展开合作。
AI带来的风险并非遥远未来的故事。Hinton 教授在本次采访中也点出了当前生成式AI立刻就可能引发的具体危险。他首先表示，“从短期来看，AI带来的最恶劣后果将是通过假图片、假视频等手段轻易欺骗选民”，提及了选举操纵的可能性。
对于希伯来大学教授 Yuval Harari 近日发出的“AI可能引发全球金融灾难”的警告，他也表示“他可能是对的”，予以认同。在以数据为核心的金融市场，如果AI掌握了控制权并开始创造新的金融工具，舆论认为，其带来的风险恐怕连预测都十分困难。不过，对于“AI会夺走人类工作岗位”的忧虑，他则划清界限称，“AI会让人类的工作效率大大提高”。他补充说，“工作岗位可能会减少，但也可能提高人类的生产率”。
对于此前 OpenAI 首席执行官（CEO）Sam Altman 的突然被解职又重返岗位一事中所暴露出的AI开发矛盾，Hinton 教授表示，“我对该情况了解不多，不想发表评论”，婉拒作答。当时业内外普遍评价认为，此次事态暴露出：一方是认为AI可能成为人类生存性威胁的“末日论者”（doomer），另一方则是认为AI技术将推动人类发展、所谓“杀手机器人”只是想象的“乐观派开发论者”（boomer），两大阵营之间的分裂浮出水面。这一事件不仅向全世界抛出了“应当如何安全地开发和利用AI”的更为根本性问题。曾对AI的急速开发和商业化保持警惕并参与董事会解职 Altman CEO 决定的 Ilya Sutskever，也是与 Hinton 教授共享AI哲学的弟子。
作为AI“末日论”阵营的代表性学者之一，Hinton 教授在本次采访中也向低估AI威胁的“乐观派”留下了一句反驳：“你是否见过某个智能更高的存在，被智能更低的存在所控制的例子？”他强调，纵观整个人类历史都没有这样的例子，这正是我们从现在起必须警惕AI所带来风险的原因。
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。
