[品读一册]AI作家、AI宗教人士……ChatGPT的局限在哪里？

by Seo Miteum

Published 24 Oct.2023 09:00(KST)

Updated 26 Oct.2023 21:24(KST)

open/close

编者按有的句子本身就浓缩了整本书的内容，有的句子则能一瞬间触及读者内心，与书建立起接点。本文从书中摘录并介绍这些富有意义的句子。

ChatGPT 的出现正在引发巨大的社会变革。它带来简便快捷的工作优势，但这一面向有些人而言也构成威胁。随着利用 ChatGPT 制作剧本初稿的动向显现，去年7月美国好莱坞的演员和编剧们宣布总罢工，反对在广播电视中使用人工智能。甚至在一向被视为人类固有领域的宗教中，“主님AI”“스님AI”此类服务也相继出现，引人注目。似乎不存在能摆脱 ChatGPT 影响的领域，那么这样的 ChatGPT 将勾勒出怎样的未来？身为信息技术传播者兼 ChatGPT 专家的 Kim Deokjin 所长，与宗教领域的 Woo Heejong、劳动与教育领域的 Lee Sangho、产业领域的 Kim Byungkwan、信息技术开发领域的 Ryu Deokmin 等4位专家一起，围绕人工智能时代面临危机与挑战的人类未来展开对话。在第四场对谈中，他与运营 YouTube 频道“검정복숭아”的创作者 Song Taemin（昵称 Eobi）共同探讨：应当到哪里去寻找把当下危机转化为机遇的人类创造力，并探索在人类不被抹去、反而重新变得鲜明的未来中，可能的路径。

由生成式人工智能带来的冲击，相比韩国，在人工智能真实威胁到就业的英语国家更加严重。以一个例子来说，自去年6月起，美国自2007年以来时隔15年首次爆发广播电视编剧工会示威，抗议在创作中使用生成式人工智能。实际上，向 Netflix 等流媒体平台供应内容的企业内部编剧人数大幅减少。取而代之的是，为流媒体剧集撰写剧本初稿的提示工程师，每一集可获得约150万韩元报酬，为 Netflix 剧本搭建基础结构，而部分编剧则只负责对人工智能生成的初稿进行修改和补充，却只能拿到较低的稿酬。- 第14页，摘自《序言》

今后人工智能有可能产生自我吗？就目前讨论的生成式人工智能而言，这是不可能的事。因为 ChatGPT 并不存在自觉意识。可以理解为，当前的人工智能模型只是告诉我们，全世界的人对某个问题的“平均想法”是什么。然而，尽管在功能上不可能，但我也会想，观看它的人也许会像看真正的神一样看待 ChatGPT。人类是非常擅长拟人化的存在。实际上，曾被谷歌解雇的员工中，有一人谈到聊天机器人 LaMDA 时说过这样的话：“感觉像是在与神对话。”- 第28页，摘自《理解生成式人工智能的核心主题演讲》

那么，现在最担心这种变化的人会是谁呢？正如所有人所预料的，是宗教领袖们。无论是牧师、僧人还是神父，一个仿佛由宗教领袖整理信息后再传达出来般，以类似形式迅速对人说话的未知存在，既令人惊叹，又难免成为恐惧的对象。如果用极端一点的说法，“主님AI”的激进程度，几乎可以与古腾堡印刷术相提并论——印刷术让原本只有少数宗教领袖或权力阶层才能拥有的《圣经》，变成人人都可以拥有的书籍。印刷术的普及成为宗教改革的起点。- 第35页，摘自《人工智能与宗教的未来》

在生成式人工智能中，最重要的一点是：“以往人类和计算机之间的交流，是人类用计算机的语言与之对话；而现在，只要用人类的语言对计算机说话，计算机就能听懂，并以人类的方式回答。”- 第45页，摘自《人工智能与宗教的未来》

也就是说，人类信仰宗教的本质理由，归根结底是为了“真理与救赎”。而不是因为被拟人化的“神”。我认为，今后当通用人工智能出现、技术进一步发展时，宗教中神话式的外壳将被大量剥离，宗教会转向一种不断思考“何为真理”的形态。- 第50页，摘自《人工智能与宗教的未来》

乐观的未来学者主张，引入人工智能会创造出更多新的岗位和职业，但那是未来的事。至少目前，一般预测认为，人类正在从事的大量既有工作与任务，在人工智能的急速突入之下，短期内注定将被替代或消失。若说工业化时代的大量生产和机械化对就业的影响主要体现为制造人力的缩减，那么，人工智能的发展则与各产业和服务部门的数字化转型相结合，使得在信息收集、分类、分析、体系化与评估等环节中，大部分劳动过程都由机器来完成的局面正在形成。- 第74页，摘自《人工智能与劳动的未来》

因此，最近我最大的关注点是：“在人工智能时代，因劳动时间缩短而产生的闲暇时间，应该如何利用？”随着人工智能的发展，所需劳动量减少，个人劳动时间缩短，自然而然就会出现生产力提升的效果，社会所需的总产量也完全可以实现。那么，剩下的时间要做什么呢？总不能只用来睡觉吧？当然可以玩乐，但人类真的能只靠玩乐就感到满足吗？所以我就会思考这个问题：如果像人工智能那样，人类也拥有学习的时间会怎样？我现在所说的学习时间，是这样的概念——用人希望延长工作时间，劳动者则希望延长休息时间。在这样的局面下，必然会出现社会利益冲突，而用以调节和衔接这种冲突的，就是教育时间。- 第101页，摘自《人工智能与劳动的未来》

坦率地说，如今人工智能已经成了“烧钱之战”。也就是说，在当下的人工智能行业中，如果想要面向全球竞争，现实情况是，即便一个国家全力扶持一家企业，也未必足够。因此，《时代》周刊使用了“人工智能军备竞赛（Arms race）”这一表述。- 第114页，摘自《人工智能与劳动的未来》

尤其在进行大规模系统集成等工作时，以前因为实际编写代码在物理上需要时间，至少得有10个人参与；而引入 ChatGPT 之后，开发速度大幅提升。与个人能力无关，原本需要10个人的工作，现在只需要1至2个人就能完成。- 第134页，摘自《人工智能与信息技术开发的未来》

我们经常开玩笑说：“我们现在没立足之地了吧。”但“开发者会消失吗？”对此我并不这么认为。开发者依然会存在，只是会成为下一阶段的开发者。（中略）如果思考一下工程师在“提示”之后的角色会是什么，我认为是逆向工程。也就是说，开发者今后要承担的是“为问题设计问题”的角色。简单举例，就是输入建筑物照片，就能生成设计图的那种方式。所以开发者不会消失，只是市场会有所缩减。但与此同时，随着旧市场收缩，新的市场也必然会被打开。- 第135页，摘自《人工智能与信息技术开发的未来》

我认为，在当前的人工智能领域，年龄与世代非常重要。外卖平台“배민”之所以成功，是因为出现了一代觉得打电话很麻烦的人。但对不觉得打电话麻烦的人来说，恐怕无法理解“배민”的意义。我有过类似的感受：有一家名为 Stripe 的美国知名支付公司，创始人是非常年轻的天才。有人问他们：为什么要做这个？最让我吃惊的一点，是他们说：“因为 PayPal 很不方便。”既有世代，尤其是美国人，一直在极力称赞 PayPal，认为它把我们复杂的支付过程变得极其简单；可对一出生就使用 PayPal 的那一代人而言，它已经变得不方便了。在我们所说的 MZ 世代之后的阿尔法世代互联网世界里，ChatGPT 和生成式人工智能将成为再自然不过的存在，而这一代人也会像因为 PayPal 不方便而创造出 Stripe 的天才们那样，去创造新的事物。对我们来说可能是全新的世界，但对他们而言，只是为了解决不便而诞生的初创企业罢了。- 第142-143页，摘自《人工智能与信息技术开发的未来》

夜空中有闪烁的星辰。星星并非人类创造，但将这些闪烁的星星连缀起来，形成“星座”这一概念的，却是人类的想象力。我认为，生成式人工智能为人类提供的内容，就像夜空中一颗颗星星。而把这些星星连接起来，创造出名为“星座”的创造性成果，依然属于人类的领域。- 第146页，摘自《人工智能与创造力的未来》

生成式人工智能本质上是一个汇集既有数据的系统。严格来说，它无法完全创造出前所未有的东西，这正是当前生成式人工智能的局限所在。人类的伟大之处就在这里：即便没有读遍全世界所有的书籍，人类也能在远少于人工智能的学习量基础上，创造出全新的事物。即便生成式人工智能为我们提供了海量内容，要说这些内容本身具有创造性，恐怕并不容易。但借助这些内容，人类却可以创造出真正具有创造性的东西。- 第148-149页，摘自《人工智能与创造力的未来》

归根结底，所谓创造性，就是看人类能在多大程度上坚持并贯彻自己独有的价值观和思想，又能承受多大的压力而不放弃。我认为，在我们即将迎来的未来，只有那些始终坚守自己原本就拥有的、清晰价值观的个人，才能生存下来。这样的时代已经到来。- 第152页，摘自《人工智能与创造力的未来》

我认为，“创作者”这一个体能够具备堪比一家公司的能量，这一点已经在市场中得到验证。《时代》周刊刊登了一组统计数据，对比了投资于创作者经济初创企业的资金与投向网红营销的费用。所谓创作者经济初创企业，在韩国相当于多频道网络（MCN）之类。也就是说，对那些管理创作者个人的经纪公司进行的投资金额，在2021年第二季度达到顶峰后，开始急速下滑。即便从全球范围来看，对多频道网络及相关初创企业的投资也在大幅减少。相反，网红营销——也就是直接向创作者本人投放广告、进行投资的营销费用却在持续上涨。- 第161-162页，摘自《人工智能与创造力的未来》