“AI之父”Geoffrey Hinton：“生成式AI或将主导人类社会引发担忧”

“生成式人工智能（AI）有可能超越人类智能并支配人类社会。”

被称为“人工智能之父”的多伦多大学教授 Geoffrey Hinton 4日接受日本《读卖新闻》采访时作出上述表示。他称：“我不知道人类将如何应对这样一种威胁——人类社会可能会被比人类更聪明的数字存在所夺走。”

他分析说，因围绕人工智能风险的矛盾而出现首席执行官（CEO）被罢免又复职风波的 OpenAI 推出的“ChatGPT”，已经可以积累相当于人类大脑数千倍的知识。他预测，最快在2020年代，人工智能就可能在多个领域超越人类能力。

View original image

Hinton 教授将人工智能带来的风险之一归结为：威权政府操纵舆论、利用假新闻操纵选举。他表示：“在美国，有一个主要政党为了在选战中获取有利地位，纵容虚假信息的扩散”，“有必要制定法律来规范虚假视频的制作和持有。”

他还警告称，搭载人工智能的武器系统也可能成为具体而现实的威胁。他担忧，如果自动设定攻击目标的人工智能系统实现实用化，战争将难以被控制。他此前也曾提到，“担心有一天人工智能会变成‘杀手机器人（killer robots）’”。同时，他还预测，随着人工智能取代人类工作岗位，今后贫富差距将会进一步扩大。

Hinton 教授强调，为了最大限度地降低人工智能的风险，政府机构必须亲自出面制定对策。他表示：“大型企业和各国之间正在展开开发竞赛，监管极其困难”，“目前的对策远远不够，人类有必要改变方向。”这是在呼吁各国政府携手合作，为全球性的人工智能开发竞赛踩下刹车。

近期屡次发出人工智能风险警告的 Hinton 教授，以推动人工智能核心——深度学习技术的发展而被称为“人工智能之父”。过去10年间，他供职于谷歌，在人工智能技术开发中发挥了核心作用。然而，随着谷歌在今年3月为对抗 ChatGPT 推出人工智能聊天机器人“Bard”，他在一个月后的4月突然向谷歌递交了辞呈。对于与谷歌决裂的原因，他解释说，是“为了能够自由批评人工智能技术的风险”。此后，Hinton 教授还将人工智能比作“核武器”，并表示对“把一生都奉献给人工智能开发感到后悔”。

必读新闻

“终于还是跨境了”既无疫苗也无药物…蔓延中的“变异埃博拉”[读懂科学]

• 三星电子全面罢工前夕达成戏剧性协议…Kim Younghun 部长称“展现了以对话解决问题的K式底力”(更新)
• “从三星电子·SK海力士亏损7000万到赚3.5亿”……“炒股大赚”爷爷成话题
• “股票不用交税” 明年起年超250万韩元币圈收益征税…投资者强烈反对
• “最近谁还去日本” 曾经人潮涌动如今骤减…究竟为何

Hinton 教授还是上月17日（当地时间）主导罢免 OpenAI 首席执行官 Sam Altman 的公司董事会成员之一、首席科学家 Ilya Sutskever 的导师。Sutskever 进入多伦多大学后，在 Hinton 教授门下攻读计算机科学博士学位。他还曾在 Hinton 创办、并于2013年被谷歌收购的人工智能公司 DNN Research 工作，深受 Hinton 影响。随着外界传出，Altman 积极推动人工智能开发和商业化，引发了包括 Sutskever 在内的 OpenAI 董事会成员的巨大担忧，人们也将目光投向了在人工智能风险问题上一直提高警惕声音的 Hinton 教授与 Sutskever 之间的渊源。

版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。