打造ChatGPT的OpenAI CEO首次出席美国听证会：“需要监管”

by Cho Seulkina

Published 17 May.2023 05:01(KST)

Updated 17 May.2023 07:26(KST)

open/close

“我认为，如果这项技术出错，会出大问题。我希望能与政府合作，防止这种事情发生。”

开发对话式人工智能（AI）ChatGPT的OpenAI公司首席执行官（CEO）Sam Altman于16日（当地时间）出席美国国会，就人工智能技术可能带来的滥用风险予以承认，并表示有必要进行监管干预。

图片由 AP 联合新闻提供

Altman CEO当天在参议院司法委员会下属小组委员会以加强人工智能监管为主题举行的听证会上表示：“OpenAI是在相信人工智能将改善我们生活几乎所有方面的前提下成立的，但与此同时也存在严重风险。”本次听证会是在所谓ChatGPT热潮之际，在人工智能技术所描绘的未来与由此引发的忧虑交织的背景下召开。美国国会以人工智能为主题举行听证会、以及Altman CEO出席国会，均属首次。

在会上，Altman CEO围绕2024年总统选举前后人工智能操纵舆论的可能性等问题，连续遭到追问。他承认称：“考虑到明年将举行总统选举，而且（人工智能）模型正不断改进，能够提供某种一对一对话式虚假信息这一点，是重要的忧虑之一。”

他还表示：“迄今为止，我们认为所部署工具带来的益处远远大于风险，但保障安全极其重要”，“新的技术需要新的监管框架”。

在具体方案方面，Altman CEO建议，由政府层面设立一个机构，在开发和发布人工智能模型时发放某种许可证。他解释说：“在责任问题上建立什么样的体系非常重要”，“可以设立一个对一定规模以上活动拥有许可权的新机构，并制定评估风险因素的标准。”为此，他还提及了国际原子能机构（IAEA）等先例。

Altman CEO回顾过去Photoshop问世之初的情形时补充说：“有一段时间，人们确实被Photoshop图片所欺骗，但不久之后，人们开始理解图像可能是由Photoshop生成的事实”，“这一次也可能类似。”以嘉宾身份出席的纽约大学教授Gary Marcus也建议称，“美国有必要设立一个部级层级的专门机构来应对人工智能问题”。

与会议员们也不分党派，一致认为围绕人工智能的潜在忧虑及适当监管的必要性不容忽视。民主党籍小组委员会主席Richard Blumenthal指出：“人工智能充满希望，但同时也蕴含信息武器化、助长不平等、声音克隆诈骗等潜在危害。”民主党参议员Chris Coons也表示担忧称：“人工智能可能传播错误信息，并影响舆论和选举结果。”他还提到美国国会在社交媒体监管方面的失败，主张中国等国家可能会滥用人工智能，动摇民主价值。