[Kim Daesik·Kim Hye-yeon的AHA]Choi Jaecheon：“AI也会想要与人类共存吗？”
⑤进化生物学家 Choi Jaecheon 论人工智能与人类
有研究结果指出，一个时代即将到来：我们彼此之间的所有对话都会被生成式人工智能（AI）倾听、审查并给出评论。这意味着什么？那么，人类应当从怎样的视角看待人工智能，又应当以何种方式与之建立关系？本文试图通过梨花女子大学生态科学部特聘教授 Choi Jaechun 的思考，寻找这些问题的答案线索。
——作为一名进化生物学家，您认为与人工智能不同的人类智能究竟是什么？
▲要回答这一部分，恐怕得借用语言学家 Noam Chomsky 的话。Chomsky 认为，人工智能，特别是像 ChatGPT 这样的语言模型，并不能理解语言的结构。他相信，只有人类才能理解语言的深层结构。也就是说，人工智能只是装作理解、不断输出结果而已。
我想象了一下 Chomsky 在这种情形下会有多不自在。我本人倾向于区分“智能”（intelligence）与“理性”（intellect）。智能可以被定义为解决问题的能力，在这一范畴里，人工智能当然也可以归入其中。但我认为，理性则包含更深层的洞察力与判断力。举例来说，智能很高的人，无论在什么情境下都能找出正确答案，而有理性的人则能根据情境采取恰当的行动。
我曾以“群体理性”（collective intelligence）为例。它并非只是智能的简单相加，而是通过相互作用和协作，导出更佳结果的能力。我认为，这种群体理性是人工智能难以轻易企及的领域。我觉得人工智能可以拥有智能，但要达到理性的层次则非常困难。尽管人工智能的能力正在快速发展，但在真正意义上的理性方面，我认为仍是人类独有的特性。
不同于智能 理性包含洞察与判断力
理性是人工智能难以轻易企及的领域
——我觉得生成式人工智能的运作方式很像昆虫的“涌现性知识”。个体并不聪明，但数以亿计聚集在一起就能完成惊人的事情。所谓涌现现象或涌现智能，究竟是什么？
▲涌现现象或涌现智能，确实是非常有趣的话题。我正在写的书里也在深入探讨这一主题。比如，把肝细胞一个个聚在一起，只不过是一团肝组织，而把心肌细胞聚在一起，却会产生心跳。这是在单个细胞层面绝对无法想象的现象。
这种涌现特性，是生物学中才会出现的独特属性。但在生成式人工智能中，是否也会出现类似的涌现现象，其实我本人也很好奇。我认为，目前还不清楚人工智能是否已经达到了涌现智能的阶段，抑或这是一种我们尚未理解的新现象。
![[Kim Daesik·Kim Hye-yeon的AHA]Choi Jaecheon：“AI也会想要与人类共存吗？”](http://www.asiae.co.kr/news/img_view.htm?img=2024071814182856503_1721279908.jpg)
——把智能与理性区分开来，也许本身就是一种以人为中心的视角。如果要真正理解生成式人工智能，尤其是理解其内部发生的事情，我在想，是否应当更深入理解蚂蚁、蜜蜂等昆虫的行为，并尝试把它们的涌现性应用到人工智能上。您怎么看？
▲到目前为止，我们只谈到了人类智能与人工智能，但我认为动物智能也必须纳入这个三角关系之中。大约在10年前，有个研究所做了一个有趣的实验：白蚁在澳大利亚草原上，不靠任何设计图就能建造出比人还高的塔。
每一只工蚁都会观察同伴把土块放在哪里，然后想着“我也放在这里会不错”，并据此行动。其结果，就是一种令人惊叹的结构：即便整天暴晒在烈日下，其室内温度变化也能控制在2摄氏度以内，堪称拥有冷暖空调系统。结论是：“每一只工蚁都只是各自为政地行动”。
在烈日下自建冷暖结构
白蚁案例正是“自组织”
这是否就是经营学中所说的“自组织”（self-organization）原理呢？每个单元各自行动，其结果却造就了如此惊人的结构。白蚁能在沙漠中很好地生存，甚至建造出有空调的“房子”。如果把我丢在沙漠里，我很快就会死，因为我造不出那样的房子。那么，从沙漠的角度看，白蚁其实比我优越得多。
然而，我们总是认为在人类智能方面，人类永远是“金字塔尖”。在人类迄今为止的地球历史中，我们一直处在食物链顶端，这也被理解为：我们可以随意对待比我们低等的存在。其实，从来没有谁给过我们这种许可。
我认为，人类之所以如此惧怕人工智能，其中一个最重要的原因在于，我们在潜意识里记得自己曾在地球上干过些什么。当一个比我们更优秀、更聪明的存在出现时，我们就会担心：它会不会像我们对待生态系统和动物那样对待我们？这种恐惧似乎深深根植在我们的内心。
从左起为 Choi Jaecheon 梨花女子大学生态科学部特聘教授、Kim Hyeyeon 编舞家兼 Yeonist 代表、Kim Daesik KAIST 电气与电子工程系教授。 图片由记者 Kang Jinhyung 提供
View original image——人类真的是地球上最聪明的存在吗？作为进化生物学家，您怎么看？
▲其实，这取决于你把标准放在哪里。如果被扔进沙漠，我们很难生存，从这个角度看，白蚁可能更为优越。但在大多数领域，人类展现出的能力都最为卓越，所以也可以说，人类是最聪明的。
不过，我们有必要深入思考，这种“聪明”究竟意味着什么。人类之所以如此成功，是因为足够“智能”，还是因为足够“理性”？是否正是因为我们明知一切却仍懂得让步、彼此照拂，从而以群体方式生存下来？事实上，生物学界长期以来只谈弱肉强食、生存斗争、适者生存等冷酷话题。但近10多年，很多观念发生了变化。
我很早以前写过一本书，书名大意是“没有哪种生命是在不牵手的情况下幸存下来的”。我们原以为竞争和捕食是自然界的“铁律”，但在过去20多年里，细致观察自然后才发现：那些“牵手”的，比那些“不牵手”的更占优势，更能生存下来。
懂得协作的存在更占优势
自然界处处隐藏着合作
自然界中处处都隐藏着合作。我们体内的肠道中也拥有数量庞大的微生物。没有这些微生物，我们也无法生存。有研究结果显示，它们不仅影响消化，还会作用于免疫系统，甚至影响大脑。
我们过去一直把焦点放在：在有限资源下如何竞争。但其实，赢得竞争的方式是多种多样的。因此，我越来越觉得，关键不在于谁最“聪明”、谁的智能最高，而在于谁最善于合作、最善于适应。
为什么一定要与人工智能“对立”呢？难道不应该去探索与之共同生存的方式吗？但现实中，很多人担心人工智能会夺走工作岗位。我认为，我们应该思考的是：把哪些工作交给人工智能，由此创造出的财富和富足又该如何合理分配？这场讨论没有必要一定滑向对立。我觉得，寻找与人工智能合作共生的方式，才是更为智慧的路径。
——人工智能领域的大师们最担心的一点，是随着生成式人工智能不断扩张，可能会因新的涌现效应而产生自由意志。无论其是否真正拥有自主性与自我，它都可能表现得“好像”拥有那样的特质。您如何看待这种可能性？
▲这是个非常棘手的话题。即便存在“自我”，是否就一定会认为“自己必须持续存在”呢？在这一点上，我目前仍不太信服。它只是存在，只是在做某些事而已。如果一个存在无法在自己所做的事情中找到意义，它就只是存在、只是行动而已。
所以，最终这个话题会回到“繁殖”上来。维持存在有两种方式：一种是自己不死，持续活下去；另一种是不断制造与自己相同的存在。我们这些生物没能做到永生，却通过繁殖，不断创造与自己相似的存在，从而延续了自身的存在。
生成式人工智能也会如此。我认为，即便人工智能拥有自我和自主性，其存在的意义最终也只能在持续性与繁殖中寻找。那么，人工智能是否也会像我们一样，通过复制和扩展自己来延续存在呢？我觉得，这正是一个极其有趣的切入点。
人工智能是否也会试图延续自身仍存疑问
必须寻找人类与人工智能的共存之道
——如果有一天，人工智能开始提出诸如“我为什么存在？是谁创造了我？”之类的问题，我们该如何应对？
▲我认为，答案是“共存”。如果始终站在对立的角度惧怕人工智能，那是因为我们内心感到恐惧。现在应当尽快摆脱这种恐惧，思考如何与人工智能共存，或者说，怎样更聪明地加以利用。我觉得，把注意力一直集中在“工作岗位将不断消失”的论调上，并不恰当。
我想，最终我们会得出“人类与人工智能必须共存”的结论，因为我们完全有能力很好地利用人工智能。但我担心的是：机器究竟是否会希望共存？如果回顾人类是如何对待自然和动物的，机器也可能会做出类似的判断。
人类长期以来支配并利用自然与动物。如今，人工智能这一新存在登场了，我们不可能再以同样的方式与之建立关系。如果把地球视为一个主体，也许会认为人类是一种犯下了许多错误的物种。我们是否可以通过人工智能找到更好的共存方式？因此，我认为，我们必须重新定义与人工智能的关系，探索共存之道。也许，在与人工智能的关系中，我们真正要学习的，是如何与自然共同生活。
4日，在首尔梨花女子大学，梨花女子大学生态科学部特聘教授 Choi Jaecheon 正在与韩国科学技术院电气及电子工程系教授 Kim Daesik 对谈。照片=记者 Kang Jinhyung aymsdream@
View original image韩国科学技术院电气及电子工程系教授 Kim Daesik
编舞家、Yeonist代表 Kim Hyeyeon
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。
