[MZ专栏]生成式AI时代，关键在于人与信任

Published 30 Mar.2023 13:28(KST)

随着ChatGPT等生成式人工智能（AI）的发展，人们常说任何人都能更轻松地接触到各类信息与知识。

然而，与此同时，在这样的时代里，无数虚假信息、虚假知识和假新闻像爆炸般泛滥的忧虑也同样存在。如今网络上涌现的，并非高质量的信息与知识，而是由AI东拼西凑出来的浅薄知识或虚假信息。

开始被AI复制视频填满的视频平台，充斥着AI随意组合的帖子，这样的网络有可能变成一种“虚假的坟场”。一些从业者只要能提高点击量、创造收益就心满意足，利用AI在未经任何真实知识或事实核实的情况下，大量生产各类博客帖子和低质量视频，正在破坏整个网络生态。

生成式AI会制造各种“幻觉（hallucination）”，其中最典型的就是关于历史事实的虚假知识。比如，若有人提问“请告诉我世宗大王最先创制的日语”，ChatGPT就会针对这个问题编造出看似合理的谎言，这就被称为“幻觉”。当这样的幻觉为了单纯追逐点击量而在网络上泛滥时，我们就会越来越难以分辨什么才是真相。

AI制造的虚假知识（幻觉）固然是问题，但促使AI制造虚假知识的人类同样是问题。比如，AI被用于政治或宗教目的的可能性极高。如果有人要求AI精细地编造关于对手政治人物的阴谋论或虚假事实，便会有无数人信以为真。要系统性地打造一个邪教组织也会变得更加容易。大量生产看上去很像样的视频、帖子、专栏、书籍并加以恶意利用，很可能只是时间问题。

正因如此，人们对“我们真正可以信赖的真人”的关注将愈发凸显。如果我们想准确了解历史事实，将来或许会进入这样一个时代：若不依靠真正系统研究过历史的历史学者所写的书，就无法了解真正的历史。若不是随便拼凑出来的自我提升方法，而是想听到某个人真正的亲身经验，那么只有在真正了解这个人之后，才有可能信任他，这样的时代正在到来。在AI伪造的自我介绍泛滥的时代，反而可能会重新恢复通过熟人介绍人才的传统招聘方式。

因此颇具讽刺意味的是，在被称为技术顶点、某种“奇点”到来的时代，人们反而很可能更加遵循“人性”和“信任”这些最传统的价值观行事。即便只是想获取一份“推荐书单”，人们也会更看重由自己真正信任的人，基于亲身体验给出的真实推荐书单，而不是网络上由AI批量生成、难以信赖的推荐清单。这样的推荐会变得更加珍贵、更加稀缺，也更具价值。

一旦任何事物开始被大规模生产，它的价值就会下降，人们便会开始寻找与之不同、真正值得信赖的东西。在新的时代里，这个值得信赖的对象、这一标准，反而有可能再次回到“人”本身。因此，与其担心再次落后而匆忙追逐最新技术，不如在这样的时刻更加追求真正的经验与知识，把重心放在人与人之间的联结上，这或许才是更明智的答案。就像我们手中的智能手机一样，技术终有一天会成为所有人的共同财产，但即便到了那时，真正值得信赖的人依然只会是少数。