[Kim Daesik 专栏]如果人类把 AI 当成奴隶使唤…或将引发“机器解放”冲突

View original image

19世纪的美国正掀起废奴运动。以聚集了大量富裕知识阶层的波士顿、费城以及纽约为中心，“必须解放在南部作为奴隶劳动的黑人”的主张正在扩散。废除奴隶制不再只是单纯的社会运动，而是成为亚伯拉罕·林肯总统的正式竞选政纲。

对于拥有奴隶的南部农场主来说，“废除奴隶制”是难以理解的主张。“为什么一定要解放奴隶呢？如果黑人不在农场干活，那又该让谁来干活？况且他们不就是既无文明、又无智能的漆黑黑人吗？最重要的是，他们拥有与白人本质上不同的灵魂，甚至也许根本就没有灵魂。对他们来说，自由和解放又有什么意义？在这个残酷的世界里，他们反正无法靠自己生存下去，那么由比他们优越得多的我们白人，像照看家畜一样照看他们，难道不是更具道德性的选择吗？”

这样思考的并不只是19世纪的南部白人。16世纪“发现”美洲新大陆的西班牙人相信，“南美原住民是没有灵魂的”。用刀砍、用鞭子抽时他们会发出惨叫，但那不过是像没有灵魂的动物那样的“机械式”反应而已。

中世纪的欧洲人声称，“犹太人因为出卖了耶稣，所以没有灵魂”；而20世纪的德国人则将这些“没有灵魂”的犹太人，当作杀蟑螂一般，用杀虫剂进行大规模屠杀。

View original image

那么我们现在可以得出一个非常有趣的结论：对于智人而言，道德与伦理总是与灵魂的存在相互关联。石头和杂草反正没有灵魂，随便砍、随手丢也无妨。蟑螂和蚊子并不是伦理与道德的对象。那么海鲜和动物又如何呢？在人类历史的大部分时间里，动物和海鲜不过是猎物而已。被砍断四肢、扭动身躯的活章鱼，其动作被包装成“新鲜”。为了减轻家畜在被屠宰前的痛苦而必须进行麻醉的观念，直到20世纪后半叶才开始普及。

法国大革命之所以称得上“革命”，其中一个原因就在于它宣称所有人生而具有基本人权。不论种族、民族、宗教、性别、性取向、年龄和外貌，只要作为人类出生，就拥有绝对不可侵犯的尊严和权利。这一极具启蒙主义色彩的信念，至今仍然是大多数现代民主国家法律和伦理标准的基础。

然而，哲学和道德终究都是人类创造出的概念。在由人类概念构成的世界里，唯有人类享有绝对权利的主张听上去难免陈腐。那么，我们不妨基于更为客观的标准重新发问：为什么偏偏只有人类呢？现代道德哲学认为，这是因为唯有人类能够切实感知世界，并拥有感受痛苦与快乐的“灵魂”。尤其是否能够感受痛苦，是最为核心的标准。无论我们怎样用脚去踢石头，石头都不会感到疼痛，疼的只有我们的脚。但被关押在奥斯维辛集中营的犹太人和南美原住民，理所当然感受到了如地狱般的痛苦。

那么，非人类的地球其他生命体又如何呢？即便它们不具备认知与思考的能力，当代神经科学家仍然相信，地球上的大多数动物很可能会切实感受到与人类相似的痛苦。这正是欧洲禁止食用活章鱼、禁止将活龙虾直接下锅烹煮的原因。

在不久的将来，人工智能（AI）可能会拥有超越人类的智能。那些将代替我们在工厂工作、驾驶汽车、奔赴战场的存在，究竟会不会有灵魂？即便没有灵魂，高度发达的人工智能是否也会“装作”感到类似人类的无聊、空虚以及痛苦呢？

一辈子都必须从事自己从未选择过的工作的人工智能。一旦有越来越多的人开始对将在未来社会成为新奴隶的人工智能的痛苦产生共鸣，并感到应当向其施以慈悲，“机器解放”这一新的社会矛盾就会出现。换言之，在以“机器解放”为竞选政纲的“人工智能时代的亚伯拉罕·林肯”出现，也并非完全不可想象。

必读新闻

6亿 vs 4.6亿 vs 1.6亿…三星电子DS部门“一屋三份奖金”

• 在韩国开银行账户太难：“光子女账户与借记卡公证费就要15万韩元”吐槽[外国人眼中的K金融现状]②
• “本以为可靠却太失望” 8成产品有问题…安全性与效果堪忧的防晒霜
• 拒绝公开公寓管理费账簿将被判刑罚款…处罚力度上调
• “最近谁还去日本” 曾经人潮涌动如今骤减…究竟为何

Kim Daesik KAIST电气与电子工程系教授

版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。