[Kim Daesik·Kim Hye-yeon 的 AHA] Jang Kangmyoung：“AI 无法理解人类叙事与人性”

⑧作家 Jang Gangmyeong 思考的机器、人类与故事

机器能够学习人性吗？小说家 Jang Kangmyoung 认为，我们所谓的人性，即人的脆弱性以及由此产生的经验与洞见纵横交织而成的叙事，正是机器无法僭越、只属于人类的领域。今年在被人工智能填满的诺贝尔奖候选名单中占据一席之地、却格外耀眼的 Han Kang 作品，其悖论之光或许也源自人类脆弱性所酿成的痛苦叙事，以及直面这种痛苦的努力。围绕人和人性、人类语言、人类与人工智能共存展开的 Jang Kangmyoung 的讲述，因此更具趣味。

——如今得益于元宇宙、Google Earth 等技术，我们只需点击几下，就能体验到自己从未去过的世界或时代。即便如此，小说依然作为一种强有力的媒介，不仅让我们体验脚下的世界，也让我们走进全新的世界。小说的力量究竟何在？

▲包括我自己在内，我把所有人都理解为一个个叙事。甚至精神科医生在为患者做咨询时，也会把那个人的人生解构成故事来进行治疗。“这条路走偏了，如果这样做会更好一些。”这样的劝告过程，本身就是一种叙事。这样的方式不仅在韩国，在全世界范围内都是人类理解世界的方式。人类在近代小说这一体裁诞生之前很久，就本能地深知叙事的力量。叙事并不只是事实的罗列。即便掺杂了虚构元素和小说化处理，它仍然具有不亚于真实故事的强大力量。

在史诗存在的年代，其中也包含了传达情感的各种技巧。随着近代小说的发明，语言成为一种强有力的媒介。虽然元宇宙、虚拟现实等新技术不断出现，但要让人类通过全部感官去理解叙事，这些技术仍然存在局限。比如说，即便在元宇宙中体验了视听元素，仅靠这些也很难传达整个叙事。缺少嗅觉、触觉等要素的元宇宙体验，终究会给人一种不同于现实的感觉。

要表达人的某种特定情感，仅凭视听信息是不够的。能否在元宇宙中让人“切身体会梦想破灭的感觉”或“失恋的痛苦”呢？仅仅提供感官信息显然有限。归根结底，要传达那样的情感，就需要故事。必须通过剧本提供情节的脉络与人物的经历，人们才能感受到那种情绪。比如，如果我想在元宇宙中传达这样一种情境：“和我在10年前暧昧过的男人突然中断了联系，随后我听说他去世了”，那就必须有一个足以让人充分理解前后脉络的故事。如果只是听到一句“他死了”，人们很难产生任何情感反应。

因此，叙事是超越单纯信息传递、提供情境与情感的关键要素。这正是语言这一媒介的力量所在。无论元宇宙或其他技术怎样发展，要完整传达人类复杂的经验与情感，仍然离不开语言和叙事。我认为，这就是技术无法完全取代语言力量的原因。

——像 ChatGPT 这样的语言模型发展速度惊人。您对这种局面有何感受？

▲一开始我确实非常震惊。之前也有过对话式人工智能程序，但 ChatGPT 的对话显得自然得多。特别是当它似乎在某种程度上理解写作的语境时，我就想到：“人工智能真的要闯入人类的创作领域了。”当然，它写出的文字与人类创作仍不相同，但差距正在不断缩小，这一点颇具冲击力。看到这一点，作为作家，我开始担心人工智能会对我的工作产生怎样的影响。

写作并非简单的数据组合，而是承载人类情感与经验的工作，我不禁疑惑人工智能是否真能进入这个领域。不过，我并不认为人工智能能够像人类那样拥有意识。看上去像是人工智能的“意识”的东西，只是一种错觉罢了。即便说它有意识，我也认为人工智能难以理解人类的有限性以及通过肉身获得的经验。我们在生理上有极限，会感到痛苦，会体验时间的流逝。这些都是构成人性的重要因素，而人工智能很难对这些产生共鸣。

另一个问题在于，未来出现的某些智能存在，可能根本不会认为有必要理解人性。它们既不了解我们所看重的肉身与人类经验，也可能根本不明白为什么这些东西重要。我们常常想当然地认为“人性”必然重要，但在我看来，人工智能并非一定要获得人性。为了解释这一点，我会想到村上春树的小说。小说中，“羊”这个存在提出要给予超人的力量，而“鼠”拒绝了它，选择了人类的脆弱。鼠所说的脆弱，是指夏日里喝的一杯啤酒、夜晚听到的虫鸣这类琐碎却珍贵的体验。我也热爱这种脆弱。与人工智能或“超人类”等存在相比，我不能说这种脆弱更优越，但我愿意守护它，因为那才是人类生活的本质。

——人类与人工智能的差异，或者说人工智能的局限源自何处？

▲人工智能基本上是基于数据学习所得的信息来进行写作的。因此，我认为人工智能很难完全理解人类通过经验所感受到的情感或深刻洞见。人类自出生起便拥有有限的时间，通过受身体限制的经验来理解世界。在这个过程中，我们体验喜悦、悲伤、痛苦，并在其中成长。这些情感与肉体经验，在写作中是极为重要的要素。当我谈论人工智能和机器时，它们可能会问：“那有什么重要的？为什么需要那些？”但我作为在这个人类世界中生活的人，会在这些经验中切身体会到什么是重要的。可以说，这种想法过于以人为中心、甚至有些自私，但我仍然想守护这个世界。

关于人工智能的问题，总是以“如果变成那样会怎样？”的形式被提出。这种提问方式暗含着把未来视为既成事实的陷阱。我们应当讨论的是，我们要如何塑造那样的未来，以及当那样的未来来临时，我们的孩子该接受怎样的教育。这类问题往往建立在“那样的未来必然会到来”的前提之上，因此我认为，在此之前，我们必须认真思考自己究竟要创造怎样的未来。

——如果人工智能问您，“人类的脆弱性”为什么重要、为什么是必要的，您会如何回答？

▲我想反问一句：“提出这种问题的机器，为什么必须存在？”当我们思考人类理想的未来时，希望不会再有因饥饿或疾病而死去的孩子，希望贫富差距得以缩小。我们的目标，是不让我们称之为“尊严”的社会现象遭到破坏。若要实现这样的目标，我们当然可以在必要时开发相应技术。然而当下的技术开发逻辑恰恰是反过来的：先开发技术，然后再设法用它去帮助饥饿的孩子，我认为这种思路是错误的。技术开发者往往不是为了满足人类需求，而是为了国防或赚钱而开发技术，甚至也有不少只是出于兴趣。我相信，必须明确技术的本质与目标，让技术朝着真正有利于人类的方向发展。

——您说过叙事和故事是人类重要的思维方式，那么人工智能能在多大程度上理解人类的叙事？您如何看待人工智能处理叙事的能力？

▲我认为，人工智能理解叙事的方式，归根结底是以数据模式分析为基础的。但叙事承载的远不止模式本身。人类是通过故事来理解世界的存在。我们自出生起，就通过各种经验与情感来解读世界，并在其中编织故事。叙事包含人类的情感、冲突与成长，而人工智能不具备这样的亲身体验，因此在生成故事时，必然在表达深度上存在局限。

举例来说，人工智能当然可以写小说，但那部小说能否真正给读者带来深刻感动，却值得怀疑。故事并不是单纯的事件罗列，其中人类在事件中所感受到的情绪与内在变化更为关键。人工智能即便能很好地理解故事结构，也不意味着它就能写出优秀的故事。人工智能归根到底只是分析并重构数据的工具，本身很难真正传达人的经验。

——那么，在您看来，人工智能更有可能不是完全取代人类创作者，而是作为工具与人类共存？在技术发展引发社会和伦理问题、技术可能威胁人性之际，我们应当守护什么？

▲是的。人工智能不太可能完全取代人类的创作活动。但它在创作过程中发挥辅助作用的可能性非常大。事实上，人们已经在利用人工智能提高创作效率，或者借助它产生新的创意。我本人也对人工智能作为帮助人类创作的工具这一发展方向持肯定态度。

人工智能或许无法像人类那样直接提供具有创造性的灵感，但它能够快速分析数据，提出多样化的点子，这一点无疑十分有用。如果人工智能始终停留在辅助者角色上，并以扩展人类创作者的情感与创造力为方向发展，那将是理想的局面。归根到底，关键在于人类如何把人工智能作为创作工具来使用。

人类是不完美的，也正是在这种不完美之中，我们彼此理解、彼此共鸣。技术固然可以强化人的能力，但我认为在这个过程中绝不能失去我们的人之为人。人类所拥有的局限、痛苦与喜悦等情感，正是我们作为人而活着的理由。无论技术怎样发展，我们使用技术的目的终究是为了过上更好的生活。如果在这个过程中失去了人之为人，技术发展的意义也必然会被削弱。因此，技术必须在守护人类尊严的前提下发展，而维持这种平衡极其重要。我认为，即便技术不断进步，守护人的尊严与脆弱性，仍然是我们必须承担的任务。

——就创作这一过程而言，我们应当如何理解“人类的脆弱性”这一关键词？

▲我认为，人类的脆弱性是创作的重要源泉之一。我们都是不完美的存在，在不完美中体验痛苦并不断成长。这个过程中获得的经验与情感，最终对创作产生巨大影响。比如，在我所写的小说中，人物所感受到的挫折、希望、爱情等情绪，很大一部分都源自我自己的经验和情感。承认自己的脆弱，并在其中寻找创作灵感，我认为这点非常重要。人类的创作并非仅靠技术或逻辑完成，而是由我们内心深处涌现的情感和思想汇聚而成。只要人工智能无法理解这一层面，人类创作过程中脆弱性所具有的意义就会始终重要。

——您正在准备一部关于人工智能的非虚构作品，能否简单介绍一下将讲述怎样的故事？

▲在我看来，传达他人经验的手段，除了语言，也就是叙事，并不存在别的形式。这也让我不断思考叙事的作用，而叙事并不总是只发挥正面作用。比如“末日叙事”在唤起人们的警觉、促使其采取行动方面非常有效。人类有时确实需要被恐惧所震撼。乔治·奥威尔的《一九八四》就很好地展示了政治权力与监控技术结合所带来的危险。

我认为，具有讽刺意味的是，末日叙事正在发挥极其强大的作用，因此我想创造新的末日叙事，以此警示人工智能的负面一面。我想以对那项技术的控制为主题，不仅仅是“人工智能会夺走工作岗位”，而是想展现由此引发的各种问题。与之相对，“地上乐园”式的叙事往往也在扮演负面角色。那些描绘地上乐园的故事，常常在现实世界催生地狱。我想展示人工智能导入后可能出现的种种诡异变化。比如，通过围棋界在人工智能出现后发生的一系列事件，来说明类似的变化将如何在其他领域重演。包含这些内容的《AlphaGo 第二部》一书，我正在筹备中。

这些问题，其实我们已经在亲身经历。与过去知识分子午后沉思的景象不同，如今那样的悠闲几乎消失了。数字世代在没有体验过那种思索时光的环境中成长，这一点令人遗憾。脆弱性是人性的重要要素之一，意识到人的抉择与不确定性同样是必不可少的态度。

当下，很多人不再自己思考，而是把选择外包给他人。比如，向朋友请教恋爱问题，或者把自己的处境发到网络论坛上，根据评论来做决定。这其实就是把个人的决定交给他人。随着人工智能替代人类能力，我们生活中必然会出现一些变得“无意义”的能力。我们已经在不断丧失许多能力。要预测今后会失去什么，本身就是一件困难的事。伴随人工智能的发展，我们的精神能力也在发生变化。

作家 Jang Kangmyoung 其人

毕业于延世大学城市工程专业，曾在《东亚日报》政治部、产业部等担任记者逾10年。代表作包括《因为讨厌韩国》《评论部队》《我们的愿望是战争》等。评论界评价，他以对技术与社会的浓厚兴趣为基础，勇敢地解构并呈现现代社会的各种议题，尤其深入探讨个人身份认同、社会不平等以及技术发展对人类的影响等问题。

Kaist 电气及电子工程系教授 Kim Daesik

编舞家、Yeonist 代表 Kim Hyeyeon