[专访]“降低攻防门槛的AI…信任边界正在崩塌”

by Choi Yuri

Published 31 Jul.2024 07:45(KST)

谷歌 DeepMind AI 网络安全技术研究负责人专访
“用 AI 解决数据不均衡问题…打造有利于防御的环境”

19日，Google DeepMind人工智能网络安全技术研究团队负责人 Eli Bursztein 在首尔江南区的 Google 办公室接受采访。照片由记者 Kang Jinhyung 提供

“随着生成式人工智能（AI）的出现，人们对‘究竟还能信任什么’的判断难免变得模糊。利用深度伪造或深度拟声进行的攻击，不仅对安全构成威胁，也可能在社会层面引发最大的恐慌。”

谷歌旗下人工智能开发公司 Google DeepMind 负责人工智能网络安全技术研究的团队负责人 Elie Bursztein 近日在接受《亚洲经济》采访时作出上述判断。Bursztein 团队负责人于2011年加入谷歌，2023年加入 Google DeepMind，目前正研究可应用于网络安全领域的人工智能技术。

生成式人工智能正被用作网络攻击的武器。典型例子就是生成逼真图像和视频的“深度伪造”，以及模仿人声的“深度拟声”。例如，用人工智能生成的家人声音来索要钱款，或利用冒充公司高管的视频窃取机密信息。Bursztein 团队负责人指出，这并非完全全新的技术，但任何人都可以使用这类技术本身就是一项重要变化。他表示：“在生成式人工智能出现之前，要制作深度伪造必须具备编码或软件方面的专业知识；而现在，人们只需像与他人对话一样与人工智能聊天，就能轻易接触到制作恶意代码或深度伪造的技术。”

人工智能能够轻松完成复杂任务的能力，同样在安全层面构成威胁。过去，人工智能只承担翻译或识别特定图像等有限功能。换言之，判断一个模型是否优秀的标准，或者需要加以限制的功能，都相对明确。相反，如今成为“万能助手”的人工智能则远不如此简单。一方面，它可以像画家一样作画，另一方面却绝不能生成看上去逼真的裸照。为了安全，必须在人工智能模型内部植入“允许什么、不允许什么”的标准，但这条界线本身就十分模糊。结果就是，被称为“越狱”的人工智能会生成恶意代码等有害产物。人工智能越狱，是指通过输入特定指令或设置特定情境，让人工智能绕过其伦理标准。

与此同时，人工智能也在推动作为“盾牌”的安全防御手段不断进化。安全防护的核心，是在海量数据中识别出攻击者埋下的特定代码。数据越庞大，发现这些代码就越困难，但如果利用人工智能，情况就不一样了。Bursztein 团队负责人解释称：“数据越多，人工智能的攻击检测准确度就越高；相应地，人类就能把精力集中在更复杂的安全问题上。”攻击者必须掌握整个系统并找出漏洞，而防御方则可以把庞大信息的分析工作交给人工智能，从而提升自身防御能力。他强调，从这一点来看，人工智能为防御方提供了更为有利的环境。