[Why&Next]在ChatGPT热潮中笑不出来的OpenAI，在担心什么

by Jeong Hyunjin

Published 08 Feb.2023 08:41(KST)

为抢占市场，两周内推出GPT-3.5
担忧被滥用与监管风险，呼吁引入付费模式

[亚洲经济记者 Jung Hyunjin] “第一次使用ChatGPT时会觉得印象深刻，但如果使用100次，就会看到它的弱点。”

人工智能（AI）聊天机器人“ChatGPT”的开发公司OpenAI首席执行官（CEO）Sam Altman上月在美国旧金山Salesforce Tower举行的一场活动上如此表示。ChatGPT在发布5天内用户数就突破100万名，上线两个月内月活跃用户超过1亿。它被评价为AI聊天机器人行业的“游戏规则改变者”，甚至让投资OpenAI的微软（Microsoft）都握住了AI主导权，在如此大获成功的局面下，这一产品的开发公司CEO却表现得极为谨慎。是什么让他如此谨慎？

1）并不完美的AI——“用两周匆匆做出的ChatGPT”

从OpenAI的立场来看，ChatGPT并非完美的AI，而是处于初期开发阶段的聊天机器人。ChatGPT目前仍需要不断升级。诞生于2018年的ChatGPT，其参数数量（相当于人脑突触）扩大时，性能会随之提升。GPT‑3搭载了1750亿个以上的参数，而目前OpenAI公开的、作为ChatGPT基础的GPT‑3.5则并未披露具体搭载了多少参数。外界普遍认为，OpenAI计划今年发布的GPT‑4将拥有100万亿个参数。

ChatGPT聪明到足以通过美国医生执照考试，在知名法学院毕业考试中拿到平均C+，在宾夕法尼亚大学沃顿商学院工商管理硕士（MBA）考试中获得B的成绩，但它仍然存在局限。发布以来，在教育一线，学生将ChatGPT撰写的文章当作作业提交，引发抄袭争议，进而牵连到版权问题。

最重要的是，有舆论指出，它会把不准确的信息当成事实提供。由于只输入了截至2021年为止互联网上产生的信息，对于此后发生的议题，它会给出错误答案，比如把韩国总统回答成“文在寅”之类。此外，ChatGPT毕竟是语言模型，数学计算错误频繁。专业考试评估及技术验证机构Aenua与延世大学人工智能学院所属的Kim Siho教授研究团队让ChatGPT解答2023学年度高考试题，结果在外语领域拿到2等级，而在数学领域却只有9等级。

更大的问题在于，它会输出带有偏见和歧视的信息。这也是许多科技企业虽已开发出AI聊天机器人，却迟迟不向公众开放的原因。过去，微软在2016年推出的AI聊天机器人“Tay”因发表“希特勒是对的”这类言论而引发恶言风波，最终在上线16小时后被迫终止服务。在韩国国内，聊天机器人“Lee Luda”曾引发性别歧视争议。Facebook母公司Meta Platforms也在ChatGPT发布前夕推出名为“Galactica”的AI聊天机器人，但由于输出带有种族歧视和偏见的结果，在上线3天后就中止了公开服务。也有外媒评价称，出于上述原因，一些AI聊天机器人在开发时刻意规避一切可能引发问题的内容，反而难以吸引公众目光。

在这种情况下，OpenAI在尚不完善的阶段就提前公开ChatGPT，被解读为抢占市场先机之举。《纽约时报》（The New York Times）本月3日报道了OpenAI管理层在去年11月突然决定公开ChatGPT服务的幕后故事。报道称，员工们原本以今年公开GPT‑4技术为目标进行准备，但部分管理层改变了主意。他们认为，竞争对手可能会在GPT‑4开发完成前先行推出聊天机器人，从而抢占主导权，因此不如利用旧模型获取用户反馈，再在开发新模型时加以运用。OpenAI于是对2020年开发的GPT‑3进行更新，在13天内推出了基于GPT‑3.5的ChatGPT。

2）滥用等担忧引发监管讨论……率先表示“需要帮助”

据传，Altman CEO正警惕ChatGPT的这些局限可能引发过度监管，或导致外界对今后发布的聊天机器人抱有过高期待。《纽约时报》援引消息人士称，Altman CEO甚至阻止包括自己在内的OpenAI员工宣传ChatGPT的成功。去年12月，OpenAI董事长Greg Brockman在推特上发布消息称ChatGPT用户已达200万名，Altman便要求他删除这条推文。

这种忧虑也出现在谷歌内部。据《纽约时报》报道，谷歌近期制作的一份关于AI聊天机器人的演示文稿中写道：“随着错误信息、有害内容、偏见以及版权问题引发的担忧加剧，围绕AI的监管压力预计将不断增大。”

OpenAI方面同时也发声称，有必要引入适当的监管来控制AI聊天机器人。OpenAI首席技术官（CTO）Mira Murati本月5日在接受美国时事周刊《时代》杂志采访时表示：“（ChatGPT的）高人气引发了一些伦理问题”，“这类AI工具可能被滥用，或被不良行为者利用，从而在全球范围内引发如何管控像ChatGPT这样的AI的问题。”她同时强调：“现在对AI进行监管并不算早。考虑到这项技术将带来的影响，所有人都应开始参与进来”，像OpenAI这样的公司必须受到约束，并在监管机构、政府以及所有其他相关方的帮助下开展工作。

3）“吞金巨兽”……亟须付费化模式

要持续推进AI聊天机器人的开发，必须获得庞大资金支持，因为为数据学习而进行的信息输入与更新等环节需要投入相当可观的成本。Altman CEO曾在去年12月于推特上发文称“计算成本非常惊人”。在回应特斯拉CEO Elon Musk“每次聊天的成本是多少”的提问时，他表示：“平均每次聊天成本在数美分的一位数区间。我们正在努力精确测算并进行优化。”外界曾估算，运行ChatGPT每月需要约300万美元的成本。

OpenAI在获得微软的大规模投资的同时，也加快了付费化模式的推出。上月，微软承诺将向OpenAI追加约100亿美元的大规模投资。这是微软继2019年、2021年之后第三次投资OpenAI。此外，OpenAI在ChatGPT发布两个月之际、并在全球备受瞩目的本月2日，在美国推出了每月20美元的付费订阅服务。

美国《财富》杂志指出，“（这类资金问题）意味着OpenAI和Anthropic等AI初创企业必须拥有能够提供极其昂贵云计算资源的科技巨头等合作伙伴”，并批评称，对一家初创企业而言，现实中很难更换提供云服务的合作方。

必读新闻

“月薪150万不如去美国年入5亿” 首尔大·KAIST人才纷纷收拾行囊 [科学家正在消失]①

据全球市场调研机构CB Insights统计，去年一年间，生成式AI初创企业获得的投资金额为26.54亿美元，投资笔数达110笔。与此前最高纪录2021年的15.48亿美元相比，增幅超过70%。从最近5年内生成式AI初创企业的投资金额来看，2019年与2021年增幅明显，这被认为与OpenAI获得微软投资的影响有关。去年，OpenAI的企业估值达到200亿美元，在生成式AI初创企业中位居首位。

한글 기사 보기

本报道由人工智能(AI)翻译技术生成。