[烘焙打字机] 警惕AI的谎言

by Song Seungseop

Published 19 May.2023 14:08(KST)

美国国际政治学者亨利·基辛格手捧笔记本电脑，坐在自己的办公室里。他面临的问题是思考人工智能（AI）技术发展将带来的变化。脑海中不断回响的问题折磨着他：“AI将如何改变我们的社会？”基辛格在寂静的办公室里，将自己的思考写在纸上。他意识到，AI与人类的共存将比预想的复杂得多。

世界级学者亨利·基辛格把这样的思考写进了著作《AI之后的世界》中。前谷歌首席执行官（Chief Executive Officer）埃里克·施密特、美国麻省理工学院（Massachusetts Institute of Technology）施瓦茨曼计算学院首任院长丹尼尔·赫滕洛赫也共同参与写作。他们都对AI对人类决策产生的影响保持警惕。AI可以分析海量数据并进行预测，但由于其决策并非总是正确，人类必须始终对AI进行审查。他们同时强调，由于技术可以发展为补充人类智能的工具，人类应当与AI进行协作。

上述内容是ChatGPT在阅读《AI之后的世界》序言部分后写出的读后感。记者向它告知“ChatGPT预示一场智识革命”这一标题的序言内容，并指示它以报道体裁进行整理，还请它写入包括基辛格在内的作者介绍以及AI将带来的未来图景。ChatGPT按照这些要求给出了结果。写完这两段文字所用时间不过1分钟左右，主谓搭配和语法也堪称完美。

文笔固然惊人，但真正值得注意的是另一点：其中掺杂着虚构。首先，关于基辛格在办公室如何苦思冥想，并没有任何公开资料可查，那完全是ChatGPT编造的内容。此外，基辛格也并未要求人类必须采取与AI合作的态度。至于ChatGPT为何“说谎”，我们不得而知。可以肯定的是，ChatGPT的写作水平已难以与人类区分，而人类也很难察觉其中的问题。

作者们最为恐惧的，正是AI的谎言。AI圆滑老练的谎言极难分辨，仅靠识别假新闻的努力远远不够，即便长时间投入精力，也可能仍无法辨明真伪。所谓生成式AI，会自动学习并提炼人类积累的海量数据，而这些数据中混杂着各种低估与高估、假新闻、确认偏误、偏见与仇恨。即便召集再多聪明的人类，也很难对掌握各个领域资料的AI信息逐一加以甄别。

作者们担心，AI的聪明与谎言会不会催生“神秘主义式狂热”。历史上也曾有无数被高不可攀的人物、技术和意识形态所吸引的追随者。掌握能够出色改造现实的AI技术的人，很可能在社会中攫取强大的权力。AI能力差异也可能引发局部乃至国际层面的变化。作者们甚至表示，“不仅会出现社会性排斥，甚至可能引发革命”。

人类因AI的出现而站在历史性的重大拐点上。相比之下，诸如AI帮大学生写报告、或者岗位消失之类的担忧，或许都只是极为枝节的话题。在AI领域，必须展开关于道德观念和社会原则的讨论。人类需要将责任赋予AI，为其设定边界，并制定有力的伦理原则。否则，正如作者们所说，“机器也许会将我们永远推入陷阱”。