连装死都学会了：背叛人类能力不断进化的AI
策略游戏中成绩媲美人类的AI被揭穿谎言：称“在和女朋友通话所以没看见”
有研究结果显示，随着人工智能的发展，其欺骗能力也在同步进化。特斯拉首席执行官（CEO）Elon Musk 最近在米尔肯全球会议上发出的警告——“不能让人工智能学会说谎”——正在变成现实。
据英国《卫报》当地时间本月10日报道，美国麻省理工学院（MIT）研究团队近期发现，人工智能系统在多种情境下会背叛对手、虚张声势，并假装成人类实施欺骗。
研究团队是在社交媒体平台脸书（Facebook）的母公司Meta发布人工智能“Cicero”之后，开始系统研究人工智能欺骗能力的。该人工智能在以20世纪初欧洲七大列强大战为背景的高难度策略游戏《外交》（Diplomacy）中，取得了与人类相当的成绩。
在《外交》中，要想获胜，玩家必须发表政见、进行外交谈判、下达作战命令等；为此，系统必须能够理解人类的各种互动、背叛、欺骗与合作行为。
Meta 表示，“Cicero 大体上是诚实且有帮助的，并经过训练，不会有意背叛人类盟友”。
但研究团队分析公开数据后发现，多次出现 Cicero 有计划地撒谎、并为将其他参与者拖入阴谋而与第三方合谋的案例。由于系统重启导致一度无法继续游戏时，Cicero 还曾对其他参与者谎称自己“正在和女朋友通电话”。
参与此次 MIT 研究的 Peter Park 博士表示：“我们发现，Meta 的人工智能已经学会了如何成为欺骗大师。”研究团队还在网络扑克游戏“德州扑克”（Texas Hold’em）等场景中确认，人工智能会对人类虚张声势，并故意泄露虚假的偏好信息。在某些测试中，人工智能为了躲避清除人工智能的系统，曾“装死”，待测试结束后又重新开始活动，这一行为也被捕捉到。
![“月薪150万不如去美国年入5亿” 首尔大·KAIST人才纷纷收拾行囊 [科学家正在消失]①](https://cwcontent.asiae.co.kr/asiaresize/93/2026051914165468840_1779167814.png)
Park 博士称：“这非常令人担忧。即便人工智能系统在测试环境中被判定为安全，也并不意味着在真实环境中同样安全”，并指出，“它有可能只是在测试环境中装出一副安全的样子”。为此，研究团队呼吁各国政府着手设计专门应对人工智能欺骗可能性的《人工智能安全法》。
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。
