[张恩秀的以书读世界]人工智能主宰“神谕”的社会将变得不幸

Published 24 Oct.2024 12:00(KST)

Updated 17 Jun.2025 13:37(KST)

open/close

易犯错的人类依赖AI解决人类问题的诱惑
人类在失败与修正中感受幸福
AI神谕式极权社会注定不幸

2024年诺贝尔物理学奖授予了John Hopfield和Geoffrey Hinton。获奖理由是两位学者运用物理学，推动了作为人工智能（AI）基础的机器学习的发展。在这一判断背后，潜藏着一种预感：AI将成为人类历史的某个分水岭。如今的确是AI时代。

随着AI大幅逼近我们的日常生活，一种独特现象也随之出现：关于“奇点”（singularity）的期待与恐惧被激烈地引爆。人们正在传播这样的论调：不久的将来，AI将超越人类智能，由此给人类文明带来决定性变化，甚至导致灾难。就连Hinton教授也曾表示，“AI会变得比人类更聪明，从而可以左右我们”，并称“后悔自己从事AI研究”。

“奇点”原本是数学或物理学中的术语，指的是某个普通函数或物理定律不再适用的点，例如黑洞中心。最早把这一严谨的科学概念当作历史隐喻来使用的人，是波兰数学家Stanislaw Ulam。1958年，他在悼念John von Neumann时说：“随着技术发展加速、人类生活方式发生改变，总有一天我们会逼近一个本质性的奇点，从那之后，我们所知的人类历史将无法继续延续下去。”

1983年，科幻小说家David Brin首次将这一概念与AI联系在一起加以使用。“当那一天到来时，人类历史将抵达奇点，世界将远远超出我们的理解层次。”让“奇点”这一说法在大众中广泛传播的，是古怪的未来学家Ray Kurzweil。他在2005年出版的畅销书《奇点临近》（金英社）中宣称，2045年AI将超越人类智能。

在去年6月于美国出版的新书《奇点更近了》中，Kurzweil又把那一天往前推了。他预言，2029年起人类将开始与机器融合，成为赛博格，并通过脑机接口变得聪明一百万倍；到2045年，人类将与AI合而为一，从而获得永恒不灭的存在。“会有这样一个时刻，我们的智能扩散到整个宇宙，普通物质将被改造为具有终极计算密度的物质——计算素（computronium）。”

这样的故事让我们上瘾。因为如果不怀抱对更美好未来的向往，任何人都难以忍受卑微的当下。以对未来的期待为踏板，我们得以改写过去，并为当下注入方向与意义，这正是人类理性的独特性。正如亚里士多德所言，开端、发展与结局被巧妙连缀的叙事，会为我们带来宣泄与净化。正因如此，在AI带来的震撼与恐惧、人类在这股力量面前将历经曲折的怜悯与忧虑之中，我们还是会被“奇点叙事”所吸引。

然而，日本哲学家Azuma Hiroki在《可更正性的哲学》（Medici Media）一书中批评说，“奇点叙事”是一种毫无根据的神秘主义，甚至会招致危险的整体主义。在Kurzweil、Nick Bostrom、Elon Musk等“奇点信徒”的“圣经”中，写着这样的话：与AI合而为一的人类最终将脱离肉体，成为“超智”，以光速穿越宇宙、超越太阳系，最终唤醒整个宇宙。这更接近一部毫无理性严谨性的宗教启示录。

Kurzweil甚至说过：“即便进化无法抵达如同上帝那样的极致，也会清晰地朝着‘上帝’这一概念前进。因此，把人类思维从生物性的限制中解放出来，本质上可以说是一项精神事业。”这等于亲口承认，他的话语与其说是科学理性，不如说是神学与宗教。Bostrom则关注AI获得意识时会出现的“末日叙事”。在那一天到来之时，AI将凭借压倒性的智能，全力追求自我保存，独占地球资源，从而灭绝人类。我们对AI的恐惧，多半也受到这种叙事的影响。

但仔细审视就会发现，这些几乎没有任何依据。除了不断重复“技术如果快速发展，总有一天会……”之外，别无他物。当然，AI有可能不断进步。但目前技术是否真的与“奇点”相连，似乎无人知晓。反过来也可能是，机器学习的极限突然显现，技术长期停滞不前。科学史已经无数次展示过这种突如其来的停滞。“奇点叙事”除了预言“只要无限度投入资源，总会出现突破性进展”之外，并无任何保证。或许我们当前正处在某种“郁金香泡沫”状态之中。

然而，无论是否具有合理依据，“奇点式思维”都在迅速扩散至整个社会。其中一个极端，就是以数据至上主义为基础的“AI神谕论”。所谓AI神谕论，是一种叙事：认为应当依靠总能作出最优判断的AI，来处理人类问题，以取代有偏见、易犯错的人类。当今每逢遇到难题就向AI发问的社会风气，让人联想到古希腊人前往德尔斐神庙，向神谕求问神意。代替法官作出法律裁判的AI法官、代替医生诊断的AI医生、取代一味陷于无谓争斗的议会或屡屡表现为冷漠不干预的总统的AI政治家，大概就是这种思潮的进化形态。

据Azuma所言，AI的最优化会收敛于统计学上的正态分布，而这只能以一种无视个人幸福等细微目标的整体主义形态得以实现。问题在于，人类天生“别扭”，在这样的社会中，只会本能地选择反抗。早在很久以前，Dostoevsky就曾说过：“人类并不喜欢按照理性和利益的命令行事，而是喜欢按自己想要的方式行动。即便这有悖于自身利益，也可以如此，有时甚至非如此不可。”

我们每个人都是独特、奇异而古怪的存在。就算在跟着导航前行，也会莫名其妙地拐进旁边的小巷才觉得痛快。与其总是服从平均值，不如偶尔扭曲、颠倒它，做个小小的“使坏鬼”，才会感到满足。我们会无缘无故犯错、失败，并在不断修正中生活，这才让人感到幸福。一个由AI发布神谕的整体主义社会，只会让我们更加不幸。Dostoevsky曾警告说：“一定要先于逻辑去生活，只有那时你才能理解生命的意义。”无论是“奇点叙事”，还是“AI神谕论”，现在都到了重新审视围绕AI的各种叙事，对其现实与未来、可能性与局限进行冷静反思的时候。