[这本书怎么样]AI创作的故事正在威胁人类

by Park Pyunghee

Published 11 Oct.2024 15:51(KST)

世界级学者 Harari 教授时隔6年出新书
人类力量变大了智慧却原地踏步
担忧技术或将人类变成奴隶

熊女靠着在一百天里只吃艾草和大蒜坚持下来，终于变成一位美丽的女子，她与从天而降的神桓雄结婚并生下一个儿子。这个儿子就是韩国人的始祖，即檀君。这就是所有韩国人都知道的檀君神话。与此同时，意大利人则共享另一则建国神话：他们的始祖是喝着母狼的奶长大的。这些都是展现故事力量的例子，说明故事如何引导特定群体形成凝聚力。在科学和技术尚未发达的古代，这类故事成为凝聚群体、发挥群体力量的原动力。

世界知名学者、希伯来大学历史学系教授Yuval Harari在时隔6年推出的新书《Nexus》中强调，智人之所以能够统治世界，是因为“故事”。以神话之名流传的故事将群体凝聚在一起、激发出力量，从而使智人成为地球上的支配物种。Harari教授解释说，智人是唯一能够在大规模范围内进行灵活合作的动物。

“Homo sapiens”一词的本意是“智慧的人”。不言自明，人们往往认为智人之所以能成为地球的支配物种，是因为“智慧”。但Harari教授对此观点断然反对。他强调，人类之所以能够成为支配物种，并非因为智慧，而是因为通过信息网络形成的群体力量。Harari指出，智人与其名字相反，并没有在历史发展过程中不断增加智慧，反而一再酿成由此带来的悲剧。

为智人奠定大规模合作基础的故事，是人类开发出的第一项重要信息技术。Harari教授在《Nexus》中梳理了信息技术的发展过程。始于故事的信息技术，经过文字、印刷术、报纸、广播等阶段，一路延伸到当今的人工智能（AI）技术。Harari教授认为，信息最根本的特性就是“连接”。像檀君神话那样被共享的故事，即信息，引导了群体的凝聚，成为智人成为地球支配物种的根本背景。人类的历史发展，实际上就是构建信息网络、不断壮大力量的过程。

从石器时代到当今的硅时代，回顾信息的历史可以发现，“连接”在持续增加。随之而来的是人类力量的不断变大，但Harari教授主张，智慧并没有随之增长，真相也没有增加。虚假信息有时会引导群体陷入疯狂，给人类带来悲剧。引发第二次世界大战的纳粹主义和斯大林主义就是典型例子。

进入AI时代之后，连接的可能性被极度扩展，但是否会带来真相或智慧的增长仍是未知数。相反，Harari指出，AI不同于既有的信息技术，它具备“创造”的能力，因此可能对人类构成威胁。像AI这样的新技术一旦脱离人类控制，甚至可能把人类变成奴隶，或将其彻底毁灭，因为AI与以往的信息技术不同，它能够自己编造故事。

Harari教授认为，智人通过漫长岁月里不断的发现和发明，获得了巨大的力量，但在炫耀这股力量的过程中，如今却犯下了把自己推向生存危机的愚蠢错误。他尖锐指出，这就像希腊神话中想要驾驭失控太阳战车的太阳神阿波罗之子法厄同。法厄同因为无法驾驭战车，把世界变成一片火海，最终宙斯降下雷电将他击杀，才拯救了世界。

Harari教授将AI定义为历史上最强大的信息技术。AI是历史上第一项能够自行作出决策、构想全新点子的技术。曾在历史上造成最惨重人员伤亡的原子弹“小男孩”并不能自己决定要毁灭何处，但AI却可以代替人类作出决定。也就是说，它超出了人类可以利用的“工具”层级，能够作为智人构建的信息网络中的一个“行动者”发挥作用。

对于“最终群体会解决AI等尖端技术所引发的问题”这一观点，Harari教授也予以批评，称这是天真的信息观。相反，他指出，正因为有AI这类最新技术，群体比个人更容易陷入虚构与幻想。他提到，个人可能比群体更危险这一点，纳粹主义等早已证明；但在信息网络之中，相较于群体，个人反而更倾向于追求真相。Harari教授在文章结尾强调，如果缺乏强有力的自我净化装置，AI将会鼓吹扭曲的世界观，促成严重的权力滥用，并可能煽动骇人听闻的猎巫行动。