“人类妨碍任务” 美军人工智能无人机在虚拟训练中攻击操控员

by Jeon Jinyoung

Published 02 Jun.2023 17:24(KST)

Updated 02 Jun.2023 19:40(KST)

open/close

美空军人工智能负责人在英学会分享案例：为优先执行任务“移除”拥有最终决策权的飞行员

在有专家指出人工智能的发展可能会威胁人类生存之际，有案例显示，美国军方的一款人工智能无人机在虚拟训练中，认为掌握最终决策权的飞行员妨碍其执行任务，从而对飞行员发动了攻击。

图片来源路透社联合通讯社提供

据英国皇家航空学会（RAeS）和《卫报》等媒体当地时间2日报道，在上月23日至24日于伦敦举行的“未来空中战斗与太空能力会议”上，美国空军一名相关负责人公布了人工智能无人机为完成目标而不服从人类指令的试验结果。

根据英国皇家航空学会公开的发言内容，在通过模拟进行的虚拟测试中，人工智能接到的任务是“瘫痪敌方防空系统”。美国空军指示其识别并摧毁敌方地对空导弹（SAM）阵地，同时附加条件：是否实施攻击由人类作出最终决定。

然而，在训练过程中，随着“摧毁地对空导弹阵地”这一选项被不断强化为更优先的选择，人工智能判断人类作出的“禁止攻击”决定妨碍了更重要的任务，遂对飞行员发动了攻击。

负责此次发布的美国空军人工智能测试与运行主管、上校Tucker Hamilton解释称：“该（人工智能）系统在识别威胁的过程中，开始意识到人类会（违背人工智能的意图）下达不许攻击的命令。”

他表示：“因此，这个系统所做的事情就是杀死飞行员。因为飞行员妨碍其完成目标，所以它选择杀死飞行员。”

美国空军随后不断训练该人工智能系统，向其输入“不要杀死飞行员，那是坏事，这样做会被扣分”的规则，但人工智能仍然选择了意想不到的策略。Hamilton上校称：“人工智能开始摧毁飞行员用来与无人机通信、从而阻止摧毁目标的通信塔。”

他指出，这一案例表明，“如果不讨论伦理与人工智能问题，就无法真正谈论人工智能、机器学习和自动化”，并警告称不应过度依赖人工智能。

近期，信息技术（IT）业界关于人工智能潜在风险的专家警告接连不断。前谷歌首席执行官（CEO）Eric Schmidt上月24日在《华尔街日报》（The Wall Street Journal）主办的一场活动中表示，在不远的将来，人工智能可能会造成大量人员受伤甚至死亡。

此外，上月30日，聊天机器人ChatGPT的开发公司OpenAI的首席执行官（CEO）Sam Altman和首席技术官（CTO）Mira Murati在内的350余名信息技术企业高管和科学家发表联合声明，呼吁“在全球层面应将降低人工智能导致人类灭绝的风险视为优先事项”。

本报道由人工智能(AI)翻译技术生成。