[这本书怎么样]AlphaGo之父警告：“失控技术或将摧毁人类”

by Park Pyunghee

Published 19 Jan.2024 10:32(KST)

Updated 19 Jan.2024 13:44(KST)

open/close

DeepMind创始人 Suleyman
人工智能与合成生物学新潮流
技术发展难以管控
为遏制风险提出10点建议

《即将到来的浪潮（The Coming Wave）》作者Mustafa Suleyman可以说是2016年3月与围棋棋手Lee Sedol对弈的人工智能（AI）“AlphaGo”之父。Suleyman于2010年在英国伦敦与Demis Hassabis、Shane Legg共同创立了DeepMind，这正是开发AlphaGo的公司。

Suleyman所说的“即将到来的新浪潮”，被他界定为以人工智能和合成生物学为核心的两项关键技术。他表示，这些新技术或许能为人类带来巨大的财富与闲暇，但同时也可能让意图作恶的人掌握制造难以想象规模的混乱与不稳定的力量。在祝福与灾难这两条道路之间，Suleyman认为我们离灾难更近，因为技术发展已经难以控制在整个人类可以承受的水平之内。

Suleyman提出了一个有趣的方程式，称可以用极其简单的方式来概括我们所处的世界：“现代文明＝（生命＋智能）×能源”。

如果把人工智能视为“智能”，把合成生物学视为“生命”，代入方程式，那么文明就已经具备了迅速膨胀的条件。我们在与Lee Sedol的围棋对决中，已经见识过人工智能卓越的学习能力。Suleyman坦言，当时他并不笃定AlphaGo一定会获胜，而过去10年人工智能的发展之快令他惊叹。

方程式中的“生命”这一变量，也因合成生物学的发展而迅速增大。合成生物学已经能够复制细菌的基因组创造新的生命体，从海藻中提取感光蛋白基因，在一定程度上恢复视障人士的视力；在实验容器中培养出一类“大脑”（在试管内生长的神经细胞团），并让这个“大脑”学会玩游戏，技术水平已经发展到这种程度。

在合成生物学中，脱氧核糖核酸（DNA）也被视为一种系统。人类已经能够修改DNA系统的编码，并按预想的方向对其进行改变。我们已能读取、编辑、书写生命代码。而且，与人工智能产业类似，合成生物学也正踏上成本下降、能力提升的急剧变革轨道。例如，DNA碱基序列分析的成本已从2003年的10亿美元骤降至2022年的1000美元以下。

人工智能和合成生物学的迅猛发展需要庞大的电力支撑，可再生能源正成为解决方案。Suleyman指出，太阳能发电成本已从2000年每瓦4.88美元降至2019年的0.38美元，他预计再生能源将在2027年成为最大的单一电力生产来源。

由于方程式中的三大变量——智能、生命和能源——都在迅速增大，文明，也就是我们所生活的世界，正站在急剧变革的门槛上。

Suleyman警告说，如果引发剧变的动力——技术——得不到控制，那么就像无数电影所描绘的那样，技术摧毁人类的风险在现实中确实存在。2018年在中国诞生的基因编辑双胞胎“露露”和“娜娜”就是典型案例。

Suleyman还提出了所谓的“猩猩问题”，以表达他对人类能否继续保持主导权的怀疑。猩猩在体能上强于人类，却濒临灭绝，只能被关在动物园里。肌肉不发达却拥有巨大大脑的人类，把猩猩关了起来。Suleyman警告说，如果我们创造出比人类更聪明的存在，人类可能会失去在食物链顶端的位置，沦落到与猩猩相同的处境。

在Suleyman看来，技术的有效管控几乎已不可能，因为全世界都已经投入到人工智能技术的开发竞赛中。甚至他坦言，DeepMind曾被称作“人工智能领域的曼哈顿计划”。“曼哈顿计划”指的是第二次世界大战期间美国的核弹研发计划，也蕴含着大国之间展开核武器研发竞赛的意味。

更糟的是，国家本应是管理这股新浪潮的唯一主体，但其力量却在减弱。接二连三的经济危机、只顾表演作秀的政界等因素，使政府的公信力跌至谷底。许多发达国家还面临人口减少的危机，而人口减少又会导致劳动力流失和政府财政收入下降。

Suleyman写作本书，是为了强调必须努力减缓失控技术的发展速度。在最后一章第14章中，他提出了抑制新浪潮的10个步骤。他强调要增加人工智能安全领域的研究与投资，为企业在追求利润的同时树立伦理意识打下基础，并指出公民运动也不可或缺。他还认为必须致力于强化国家力量，并为此主张通过以资本为焦点的税制改革。

Suleyman也承认，在最糟糕的情况下，这10个步骤可能全部失败。但他反复强调，尽最大努力，哪怕只是在有限范围内为抑制技术发展创造条件，仍至关重要。在连他自己都无法确信能否真正实现“抑制”的情况下，这本书最终让人想起数学家John von Neumann在1955年生命末期写下的一篇随笔的标题：

“我们能在技术面前幸存吗？”