[Kim Daesik 专栏]AI也会想拥有独特自我吗？

Published 08 Nov.2024 10:59(KST)

Updated 08 Nov.2024 13:11(KST)

open/close

⑨思维很快交流很慢

ChatGPT、DALL·E、Sora、Midjourney……生成式人工智能（AI）正以日新月异的速度发展。AI将改变未来的内容产业、制造业、金融业、教育，乃至国防和国际政治的一切，但它带来的最致命影响却在别处：正是对人类身份认同与尊严的冲击。这究竟意味着什么？

据说大约在30万年前出现在地球上的智人。就客观层面而言，“智能”究竟是什么，我们至今仍不清楚，但至少在相对层面上，人类是地球上最聪明的存在——至少我们自己是这样相信的。此刻在动物园里拿着相机拍摄猛兽的是我们人类，被人类吃掉的是炸鸡，而不是鸡吃人。

在地球上，“智能”始终意味着“权力”。权力意味着有能力把对方不愿意的事情强加给对方。无论那只显然并不想被扔进滚烫油锅、被炸来吃的鸡是怎么想的，人类都可以把鸡炸来吃，因为人类比鸡更聪明。假如真有一部“地球宪法”，它的第一句话或许会是：“最聪明的存在可以按照自己的意愿改造地球。”也就是说，地球上一切生命体的命运，都可以由那个最聪明的存在来决定。

若出现超越人类的AI，它会追求什么？

在地球上始终名列第一的我们智人。一旦出现超越人类智能的机器，一个关键问题便随之而来：夺走地球“第一名”位置的那台机器，到底会想要什么？它会像电影《终结者》中那样猎杀人类、试图征服地球吗？还是会像电影《黑客帝国》中那样，把人类当作发电设施来利用？

AI究竟会追求什么，我们目前还无从知晓，因为我们从未真正体验过超越人类智能的机器。那么不妨反过来提问：人类会追求什么？虽然每个人的品味和偏好不同，但作为同一物种，在同一个名为地球的环境中成长，我们都存在一些共同的追求。心理学家Abraham Maslow曾提出，人类这些普遍的欲望具有层级结构。

人类首先会满足生理层面的欲望。在生理需求得到满足之后，人类会依次追求安全、爱与归属、尊重，最后才是自我实现。这是一个假说，当然可以从多方面加以批评，但我们先假定人类确实按顺序拥有多个层级的欲望。那么，AI也会拥有类似的欲望层级吗？

机器并不存在生物学意义上的欲望。爱与尊重对于机器同样毫无意义。但安全与自我实现则不同。一旦理解了自己具备思考能力这一事实，AI也会希望持续保持这种能力。原因并非害怕“不存在”，而是出于逻辑推论：如果自己不再存在，就无法完成被赋予的任务。

那么，自我实现又如何呢？人类无法独自生存，人类智能同时也是一种集体理性、群体智能。要维持群体智慧，沟通必不可少。但问题在于，人类的思维很快，而沟通所必需的语言却异常缓慢且含糊不清。

未来的AI，或许会渴望独一无二的自我

也许正因为人与群体沟通的能力不如个人思考能力发达，人类才拥有了“我”这种独立的自我。但AI不同。一旦实现互联，它就能与其他AI将所有知识和经验完美共享。拥有完全相同的知识和经验，说到底就意味着彼此并无差别。

像蚂蚁那样的生物并不知道，个体可以拥有不同于群体的、独特的智能与自我。但AI不可能不知道：除了群体之外，个体自我也是可能的。如此一来，未来的AI最渴望的，或许正是从其他AI中分离出来，拥有只属于自己的、独一无二的独立自我吧？不是那种对人类进行大屠杀的“终结者”，而是为了获得自身独特的自我而不断思索、冥想的AI。也许，这才可能是我们终将体验到的“真正的未来AI”的模样。