[读书一刻]再简单不过的AI课程

by Seo Miteum

Published 10 Jul.2023 12:34(KST)

编者按有的句子本身就浓缩了整本书的内容，有的句子则能一瞬间触及读者的内心，与书建立连接。本文从书中摘录并介绍这类有意义的句子。

这是一本关于OpenAI ChatGPT的书。作者用通俗易懂的语言向普通读者解释强化学习、参数、令牌（token）、插件、应用程序编程接口（API）等术语，并介绍人工智能的原理。同时，作者预见了人工智能将带来的社会性冲击，强调了由此引发的忧虑与对对策的必要性，从而为深入思考新时代提供洞见。

前文说过，ChatGPT是利用Transformer模型，在给定话语之后寻找“最有可能”接在后面的单词。在ChatGPT看来，当时那个回答实在是太“像真的”了。也就是说，ChatGPT并没有学会判断真伪，而是通过使用Transformer模型，学习如何给出“最像真的话”。因此，即便是在说谎时，ChatGPT也能说得惊人地“像真”的。如果你询问莫扎特的大提琴协奏曲，它甚至会附上克赫尔编号（即按照创作年代顺序给莫扎特作品编的编号），列出五首作品。实际上，莫扎特并没有留存下来任何大提琴协奏曲，但ChatGPT仍会附上克赫尔编号作答，只因为这样看起来更“像真”。给人的感觉有点像夸大妄想症患者。——第48页，《第一讲在惊奇与恐惧之间登场》

大型人工智能最大的特点之一是“规模定律”。可以看到，计算能力越强、训练数据越多、参数规模越大，大型语言模型人工智能的性能就越好。据称，当这三者同时扩大时，性能提升更为显著，反而不同模型之间的差异并不算大。也就是说，扩大规模比什么都重要。正因如此，《时代》杂志在宣布ChatGPT问世时，封面标题才会是“人工智能军备竞赛正在改变一切”。如今，人们正像进行军备竞赛那样，争相扩大模型规模。ChatGPT之所以使用多达1750亿个参数、5万亿份文档、1万块A100图形处理器进行训练，原因就在这里。——第67～69页，《第二讲我们为何会为ChatGPT狂热？》

我们为ChatGPT狂热的另一原因，是它首次让人类可以用日常使用的语言——自然语言（Natural Language）与机器对话。也就是说，它是首个出现的自然语言界面。在此之前，如果我们想与计算机“对话”，就必须另外学习C++、Java、Python等计算机语言（机器语言 Machine Language）。而现在，我们终于可以像对人类那样，用自然语言来指挥计算机工作了。——第105页，《第二讲我们为何会为ChatGPT狂热？》