AI学者独家专访② 乐观看待AI时代的“婴儿潮一代”Caplan
“将像以往技术浪潮一样找到平衡 并最大化AI优势”
“人工智能（AI）并不可怕，反而是值得让人兴奋的事。能够亲眼见证人类历史的一个变曲点（inflection point），让我由衷感到高兴。”
著有《人工智能的未来》等作品的世界级“AI权威”——斯坦福大学教授 Jerry Kaplan，在迎接2024年新年之际接受《亚洲经济》采访时就AI技术发展表示，由于“科学、技术、艺术、商业与知识的发展将以过去难以想象的规模加速”，作出了上述表述。
身为计算机工程学家兼未来学家的 Kaplan 教授一直指出，大众在无用的信息过载之下，对AI产生了误解和忧虑。在本次采访中，他也表示，不要被对AI的模糊恐惧所束缚，“我们需要习惯与高度智能化的机器共享这个世界”。他接着指出，“新的问题可能会出现，或加剧既有问题”，但同时强调，“就像以往每一波新技术浪潮那样，我们可以在保持平衡的同时，降低（AI开发带来的）风险并获得其带来的益处”。
对于部分人士提出应暂时停止AI研发的主张，Kaplan 教授断然表示“坚决不同意”。他强调：“AI确实会给社会带来新的风险和挑战，但认为它会杀死人类的想法只是科幻（SF）式的幻想。AI不过是纯粹而简单的自动化。AI是否会带来混乱，取决于我们自己。”对于各国正在讨论的AI监管，他也建议称，“在尚未理解新技术的优势与风险之前，不应草率启动监管”。
不过，Kaplan 教授也承认，以生成式AI为代表的AI新技术在当下确实可能带来多种风险。他表示，“如此强大的技术一旦落入不当之人之手，潜在风险会非常大”，并将战争、犯罪、诈骗以及深度伪造列为主要忧虑。
以下为与 Kaplan 教授的问答实录。
——有评价认为，近期 OpenAI 事件暴露了围绕AI开发速度的“boomer（开发派）”与“doomer（毁灭派）”之间的冲突。
▲将名为 OpenAI 的这家企业的混乱，简单描述为 boomer 与 doomer 之争，是过度简化。这其实是稚嫩的经营层与董事会共同造成的、公司治理结构薄弱的结果。此外，在任何技术组织内部，主张尽快推出产品（实现商业化）的一方，与希望进一步测试的一方之间，本就存在一种自然的紧张关系。
许多政府和企业正在努力寻找防止AI被用于不当目的的方法。但可以肯定的是，我们尚未真正理解生成式AI的风险，也不知道如何有效地加以缓解。
——部分“毁灭派”建议暂时中止AI研发。
▲我坚决不同意。AI确实会给社会带来新的风险和挑战，但认为它会杀死人类的想法不过是科幻幻想而已。生成式AI在许多方面看上去可能很“像人类”，但它并不是拥有独立思考、情感和欲望的存在。我们无需担心它们会“统治”（人类），因为“它们”什么也不想要。“它们”根本不存在，因此也不会“来到我们这里”。这种拟人化的恐惧只是一种想象。AI是纯粹而简单的自动化工具，无论好坏，人们都会用它来追求自己的目标。如果AI引发了混乱，那也取决于“我们”，而不是“它们”。
——如果要反驳那些认为AI能够控制人类的“毁灭派”，您会怎么说？
▲他们的担忧基于一种误解，即认为智能、也就是智慧是可以无限扩张的；同时也基于一种假设，认为我们会愚蠢到去构建一个不安全的系统，使其能够造成巨大的伤害。作为开发过无数技术产品的人，我可以断言：要打造一个可以毁灭人类的AI系统，需要类似（第二次世界大战期间美国主导的核武器研发计划）“曼哈顿计划”规模的工程。即便如此，它是否能成功也仍然存疑。
我们会有大量的预警机制和多种方式来缓解风险。我支持那些旨在监测和监管AI风险的健康努力。但如果是我，我会比起担心AI末日，更先担心外星人登陆地球。
——但AI的危险性也不可忽视。自从生成式AI“ChatGPT”掀起热潮后，围绕AI的忧虑与期待都在放大。
▲生成式AI要求我们对机器能做什么形成一种全新的思维方式。它将使人们变得更有生产力、更高效、更有效率。不过，如此强大的技术一旦落入不当之人之手，潜在风险会非常大。威权主义者可能利用它散布虚假信息、压制反对舆论。可怕的新武器也会改变战争的性质。它可能被用于犯罪或诈骗，色情类深度伪造内容也可能激增。此外，许多人很可能会对AI产生情感依恋，难以抵挡放弃人与人之间互动、转而寻求“让人感到舒适的AI”的诱惑。
——您如何看待对劳动力市场的影响？AI会夺走人类的工作吗？
▲理解未来将会发生什么的最好方式，是把生成式AI视为类似工业革命、计算机出现那样的新一波自动化浪潮。生成式AI可以替代或补充作家、律师、医生、平面艺术家、设计师等职业的工作。起初，自动化似乎是在夺走人类的岗位，但这将提高剩余员工的生产率，并带来工资上涨、成本下降、需求增加以及新市场的创造。它不是把人们赶出职场，而是在改变工作的性质。
——AI监管应朝什么方向前进？
▲我认为，在尚未理解新技术的实际优势与风险之前，不应草率开启监管。最好的做法，是先建立一个用于评估和监测影响的框架，然后在监管必要性变得清晰时，再通过监管进行干预。最近美国公布的AI监管总统行政令，正是基于这种精神。开发超过特定计算能力阈值系统的研究人员，必须向政府报告测试结果。这是一个很好的第一步。
——我们几乎不敢想象AI将带来的未来。有没有什么特别想对韩国读者强调的？
▲没有什么可害怕的，反而是值得兴奋的事。它很可能以过去难以想象的规模，加速科学、技术、艺术、商业与知识的发展。当然，在这一过程中，必然会出现新的问题，或加剧现有问题。但我相信，就像以往新技术浪潮那样，我们可以在保持平衡的同时，降低风险并获取其带来的好处。
未来，当我们希望就某个问题寻求基于最客观、最准确信息的意见时，很可能会去询问计算机，而不是人类。就像“哥白尼革命”让我们接受“人类不是宇宙中心”这一观念一样，我们也需要习惯与高度智能化的机器共享这个世界。能够见证人类历史上这样的变曲点，我感到由衷高兴，同时也在殷切期待。
——您下个月将出版一本关于生成式AI的新书（《生成式AI——每个人都应该知道的事》）。希望传达什么信息？
▲我的目的，是为读者提供一个框架，帮助他们理解生成式AI，以及未来数十年内可能出现的各种影响。生成式AI能否符合我们的期待，取决于我们自己。我们需要对这项新技术的优点和缺点有更细致入微的理解，这正是我在书中要讨论的内容。韩文版的出版时间尚未确定，但我希望能在2024年之内实现。
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。
