[走进AI世界]“年薪高达3亿韩元”……AI公司为何要招聘武器专家
伦理 VS 安保…AI 战争的两难困境
Anthropic 选择“伦理”,OpenAI 押注“安保”
80% 美国人认为“比起开发速度,安全更重要”
当科学技术伦理与国家安全价值发生冲突时,优先顺序应当如何排列?为了方便矿山开采等作业,Alfred Nobel 发明了炸药,却在战争中被用作杀伤性武器,Nobel 因此忏悔并设立了“诺贝尔奖”。此外,在第二次世界大战期间,Robert Oppenheimer 应国家“必须先于德国制造出来”的要求完成了核弹,这一武器在终结战争的同时也造成了大量人员伤亡。如今,人工智能(AI)技术正陷入类似的两难境地。
安全的 AI?Anthropic 与 OpenAI 走上不同道路
与意图扩大 AI 技术军事应用范围的美国政府发生矛盾的 Anthropic 最近发布了化学武器及高性能爆炸物政策经理的招聘公告。给出的年薪约为24.5万至28万美元(约合3.3亿至3.8亿韩元)。化学、生物、放射性、核与爆炸物(CBRNE)技术威胁调查员的招聘也在以类似待遇进行。
Anthropic 表示,此次招聘旨在“防止对 AI 系统的致命性滥用”。这是为了事先阻断 AI 模型“Claude”被用于开发杀伤性武器的风险。公司并非在寻找一般的 AI 工程师,而是要招募在武器防御领域拥有5年以上经验的博士级专家。这些人将负责设计和监控 AI 模型在应对有关化学武器制造业或爆炸物合成相关提问时的指南,并承担防止与阻断其被恶意利用的工作。
Anthropic 的这一举动是在其被美国国防部指定为“供应链风险企业”之后不久作出的,因而备受关注。此前,Anthropic 曾拒绝国防部“按照所有合法目的不受限制地使用 Claude”的要求。随后,联邦机构内禁止使用其 AI 技术等措施接踵而至,公司则以“史无前例的违法行为”为由提起诉讼。
与之相反,OpenAI 在2024年1月的使用条款中删除了禁止军事用途的条款,并通过加强与国防部合作等举措,将重点放在国家安全上。虽然仍然禁止“对他人造成伤害的行为”和“直接开发武器”,但已为国家安全、网络安全等广泛的军事应用可能性打开了大门。最近,公司又与国防部签订了向其机密网络部署 AI 模型的合同,由此引发用户的反对。有消息称,首席执行官(CEO)Sam Altman 为折中起见,在合同中以条款形式明确写入了“禁止对国内公众实施监视”、“在使用致命武器时须由人类承担责任”等内容。
既要守住 AI 技术优势,又反对骤然武器化
公众判断也出现分歧。根据盖洛普去年10月发布的《美国人对 AI 与国家安全的看法》报告,认为未来会发生利用 AI 的国家级攻击的受访者比例高达87%(“非常高”43%、“相当高”44%)。在 AI 技术究竟利大于弊还是弊大于利这一问题上,负面(弊)回答为41%,正面(利)回答为37%,不相上下。按年龄段看差异较大:65岁及以上人群中有一半(50%)持积极态度,而18至39岁的年轻人中则有46%预计 AI 会恶化安全局势。
在是否支持开发基于 AI 的自主武器方面,48%的受访者表示反对,赞成比例为39%。不过,79%的受访者认同“美国拥有领先于其他国家的 AI 技术非常重要”。也就是说,人们对 AI 武器化感到担忧,但认为在技术本身上必须领先于中国等国家。在关于安全与开发速度孰轻孰重的问题上,80%的受访者认为应优先维护安全与安保规则,比例远远领先;仅有8%的人认为应优先快速开发。本次调查以美国全国3128名成年人为对象,于去年4月25日至5月5日进行。
一位业界相关人士表示:“这是一项体现美国人复杂警惕心理的指标”,“这并非美国独有的问题,社会首先需要就何种程度才算安全的国防用 AI 达成共识。”
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。