“禁止用ChatGPT”……谷歌拉响AI警戒令

by Kwon Haeyoung

Published 16 Jun.2023 10:42(KST)

谷歌禁止将公司机密输入聊天机器人
微软、三星、苹果、亚马逊也在内部设置AI防护栏
欧盟通过全球首个AI监管法案

在与OpenAI、微软（Microsoft）围绕生成式人工智能（AI）主导权展开竞争的谷歌，向员工下达了“警惕使用AI”的指示。随着“ChatGPT”热潮扩散，越来越多人在工作中利用AI，但连AI开发公司本身都因担心副作用而禁止在工作中使用AI的情况正在出现。与此同时，欧洲联盟（EU）通过全球首个AI监管法案，加快推进对AI的监管。

图片由联合通讯社提供

据15日（当地时间）多家主要外媒报道，谷歌母公司Alphabet指示员工不得将营业机密资料输入生成式AI。这一指引不仅适用于ChatGPT等竞争对手的服务，同样适用于其自家AI“Bard”。尤其是Alphabet警告工程师，不得直接使用聊天机器人生成的计算机代码。

Alphabet似乎担心，若谷歌员工输入营业机密，AI在训练过程中吸收的数据可能被再生产并泄露到外部。生成式AI通过学习海量数据，并在与各种信息结合、推理的过程中生成新的内容。外媒报道称，在与开发ChatGPT的OpenAI抗衡、推出Bard等加速AI竞争的过程中，此举旨在预防潜在的业务损失。谷歌就此解释称：“我们以透明方式公开技术局限性是我们的目标。”

微软也在警惕员工使用AI。据悉与谷歌一样，对在工作中的使用进行了限制。微软首席营销官（Chief Marketing Officer，CMO）Yusuf Mehdi表示：“企业不希望员工在工作中使用聊天机器人，这是常识”，“企业的立场相当保守，我们的政策更加严格。”此外，三星、苹果（Apple）、亚马逊（Amazon）、德意志银行等其他全球企业也纷纷为AI聊天机器人建立内部“护栏”（安全装置）。

尽管企业采取了上述举措，员工对AI的利用度仍在提升。社交网络专业应用Fishbowl以1.2万名职场人士为对象进行调查，结果显示，43%的受访者在工作中未告知上司就使用ChatGPT等AI。原因在于，在撰写电子邮件、文档时使用ChatGPT可以大幅提高工作处理速度。

图片由联合新闻提供

除公司营业机密泄露外，AI的副作用也在各处显现。比如，上月22日，一张由AI伪造的美国国防部大楼（五角大楼）爆炸照片在网上迅速传播，导致美国纽约股市标准普尔500指数在30分钟内下跌0.3%。由电脑按算法而非基金经理进行投资的量化投资方式，可能会因AI散布的虚假信息而遭受重创。对冲基金Florin Court Capital创始人Doug Greenig表示担忧称：“AI无疑正变得越来越难以管理，将成为在信息领域打开各种恶作剧和损害之门的契机。”

对此，各国政府正紧锣密鼓地着手制定AI监管方案。欧盟立法机构欧洲议会于14日通过了全球首个AI监管法案。法案内容包括：标注ChatGPT等生成式AI内容的来源，禁止在公共场所进行人脸识别等远程生物识别。美国国会也在通过召开AI听证会等方式讨论监管方案。