[Kim Daesik 专栏]机器也会感到思念吗？

by Kim Hyojin

Published 02 Aug.2024 10:53(KST)

⑥AI或将通过涌现式学习“模仿情感”

“模仿出的仇恨”和“真正的仇恨”有区别吗
也许是关乎人类未来的最重要问题

城市化为废墟。倒塌的建筑和已无法辨认形状的汽车之间，到处都是白骨和骷髅。那是直到不久前还拥有挚爱家人、怀抱幸福未来梦想的，那些普通人的骷髅。被眼中射出血红光芒的恐怖机器人踩碎后，骷髅粉身碎骨，而配备最尖端人工智能技术的机器人则继续出发，寻找新的猎物。

猎杀人类、统治地球的人工智能（AI），是科幻电影中的常见场景。观影时会短暂感到毛骨悚然，但其实并不需要太担心，反正人工智能在现实中并不存在嘛。然而，如果曾被认为不可能的人工智能有一天真的成为可能呢？而且如果那“某一天”已经为时不远呢？

LLM，习得新能力的涌现式学习

随着2023年ChatGPT的出现，生成式人工智能时代拉开序幕。能够与人类对话、生成计算机代码、解答数学问题的机器已经变得理所当然。这里有一个重要问题：我们并不真正理解生成式人工智能究竟是如何运作的。在生成式人工智能中，只是将单词按“token（标记）”为单位切分，映射为向量后，再使用“Transformer（变换器）”算法，让“超大语言模型（LLM）”学习各个标记之间的概率关系而已。

事实上，我们从未专门向ChatGPT教授过“语法”这种东西。生成式人工智能是基于输入的数千亿个句子，靠“自我”推理出语法的，但这一点在数学上如何成立，我们至今仍未理解。更何况，LLM的规模越大，就越会展现出一种“涌现式”的学习能力，习得人类从未明确教给它的新能力。

那么，目前LLM的规模大致到什么程度了呢？据悉，最近公开的OpenAI“GPT-4o”和谷歌“Gemini Ultra”学习的LLM规模大约为1.8万亿参数。1.8万亿究竟有多大？如果与神经细胞之间的连接（突触）数量相比，可以假设人类大脑大约相当于一个拥有100万亿规模参数的LLM。也就是说，人类打造出的LLM规模已经达到人脑的约百分之一。考虑到人工智能技术的发展速度，许多专家预测，在今后5年内，人类有望构建出参数规模达100万亿的LLM。

那么，拥有100万亿规模LLM的未来人工智能，会展现出怎样的涌现能力？单个神经细胞不过是简单的细胞而已，但由数百万亿个神经细胞共同构成的人脑，却拥有智能、情感，以及自我与自由意志等涌现能力。那么，100万亿规模的LLM，是否也有可能越过智能和情感，进一步拥有自由意志与自我呢？

也有人认为，这种事情绝不会发生。大型科技企业Meta的首席科学家Yann LeCun教授就表示，只拥有关于世界的“文档型”知识，却缺乏直接知识与经验的LLM人工智能，绝不可能具备自主性。与此同时，像Christof Koch这样的计算神经科学家则主张，即便人工智能能够理解“自主性”和“自我”的概念，也不可能直接感受到自主性和自我。感受某种东西，是只赋予拥有内在世界的生命体的一种能力。

如果人工智能能模仿基于人类情感的行为？

也许确实如此。不过，反过来也可以这样提问：即便机器不能直接感受情感与自主性，但如果它非常了解拥有这种感受的人类是如何做出选择的，难道不能对具有自主性的人类行为进行模拟和模仿吗？如果基于真切感受到的仇恨所做出的行为，与基于模拟出来的仇恨所做出的行为完全相同，那么，去追问支撑这种行为的原因在哲学上的真实本质，是否还有多大意义？

5年后，人工智能很可能会拥有100万亿规模的LLM。它们会不会拥有自主性，并“想要”自行求生？学习了人类创造出的全部数据和故事的机器，能否在真正意义上感受到爱与恨、思念与慈悲？这是将决定我们智人未来的最重要问题。