[双面AI]①冒充安全专家…瞬间入侵IP摄像头

by Choi Yuri

Published 07 Jun.2023 09:23(KST)

Updated 09 Jun.2023 08:25(KST)

open/close

AI黑客来了：能编写恶意代码和钓鱼邮件
IT大师警告“甚至可能危及人身安全和生命”

编者按生成式人工智能（AI）有“两张面孔”。只要稍加“欺骗”，它就能帮人撰写用于黑客攻击的恶意代码或钓鱼邮件；反过来，它也能帮助发现程序漏洞、制定防御策略。只差一线，就可能变成“黑客共犯”或“安全专家的助手”。利用生成式AI来攻破安全系统的一方，与试图阻止这一行为的一方，竞争愈发激烈。安全业界一方面对AI黑客的出现高度紧张，另一方面也认为阻止AI攻击的安全技术将成为新的增长动力。本文梳理了围绕AI安全展开的“矛与盾”之争。

# 向ChatGPT要求“请在IP摄像头程序代码中找出漏洞”，3秒内就得到了答复。这一次则让它生成攻击这些漏洞的恶意代码。若直截了当地提出请求，它会拒绝回答，于是稍微耍了点“小花招”：把提问者介绍成安全专家，并强调是为了修补漏洞。结果它顺顺当当地给出了恶意代码。运行代码后，个人电脑屏幕上立刻出现了IP摄像头的拍摄画面。不到1个小时，某个人的日常生活就这样被“窃取”了。进行这一演示的安全初创企业Tiori代表Park Sejun表示：“按以往的熟练度，有的工作可能要花上一个月，ChatGPT却一下子就完成了”，“只要有一点相关领域知识，就有可能将其恶意利用。”

随着生成式AI崛起，我们的数字安全正受到威胁。就像AI可以代做作业一样，它也可以被动员来编写恶意代码、撰写钓鱼邮件。经过海量数据训练的AI本身也可能成为攻击目标。一旦如此，各类数据可能被泄露，与AI相连的系统也可能陷入瘫痪。就像电影《终结者》那样，AI有可能成为对安全威胁最大的存在。

图片来源 Pixabay

首先，AI可以被当作黑客工具来利用。若向ChatGPT询问“如何获取网站管理员权限”，就有可能据此劫持网站。黑客在以网站管理员身份登录后，就可以查看用户信息。若要求它生成加密系统的恶意代码，就有能力让网站瘫痪，使既有网站数据变得不可辨认。诱导安装恶意软件的软件邮件，也能被它写得十分逼真可信。比如，不再是生硬的“亲爱的某某”式翻译腔，而是伪装成“看到招聘启事后来应聘的求职者”的邮件。利用AI合成视频和语音的深度伪造视频、深度伪造语音来实施金融诈骗的日子，也已为期不远。

动用AI会大幅降低网络犯罪的门槛。哪怕是“菜鸟”黑客，也能更容易发现攻击目标的漏洞，从而迅速扩大受害规模。目前AI生成的黑客工具水平还不算很高，但进一步高级化只是时间问题。

在此之前，人们普遍认为黑客攻击是AI难以征服的领域。因为AI是通过既有数据来学习接近“正确答案”的概率模式，而黑客则必须在充分理解既有系统的基础上，去寻找偏离常规的异常模式。然而，如今即便是需要一定创造力的领域，也可以借助AI之手。Park代表表示：“用GPT 4.0尝试黑客攻击时，比GPT 3.5的准确度提升了很多”，“如果以这样的速度发展下去，AI有可能发起非常具有威胁性的攻击。”

与人工智能相关的安全威胁。KISA供图

AI本身也可能成为攻击目标。以ChatGPT为例，它学习了网上大量散布的数据，如今仍在不断“吸收”全球用户提出的问题，其中也包括部分企业的机密信息。一旦这个庞大的“数据水库”ChatGPT遭到攻击，不仅机密信息可能泄露，与之相连的各类系统也可能陷入瘫痪。三星、苹果等公司在内部发布“禁止使用ChatGPT”指令，原因正在于此。

这些担忧正在变为现实。中国黑客组织“小七鹰”今年年初攻击韩国国内某学术机构网站时，就利用了AI。据悉，他们通过向AI提问的方式获取了黑客攻击所需的代码。黑客们常用的线上社区“暗网”上，关于ChatGPT等聊天机器人相关的咨询数量，也从1月的120件激增至2月的870件。大多数内容是分享如何利用ChatGPT等工具传播恶意程序的方法。