三星高管领衔“Team Atlanta”闯入美政府主办AI安全大赛决赛
由孕育互联网和GPS的DARPA主导，白宫高度期待
目标开发可自动发现并修复开源程序漏洞的AI
“黑客”（Hacker）这一词汇是以“人”为前提概念的。直到最近，发现并攻击计算机网络或软件漏洞的黑客，以及专注于发现漏洞的白帽黑客，指的都还是人。人工智能（AI）的发展正在要求我们转变这种认知。如今，随着AI性能的急剧提升，以及必须为利用AI进行黑客攻击的出现做好准备，相关应对也在加快推进。
近期，由美国国防高级研究计划局（DARPA）主导的、利用人工智能（AI）的黑客系统竞赛“AI网络挑战赛（AI Cyber Challenge，AIxCC）”准决赛在拉斯维加斯举行。这项比赛是在DARPA去年突然宣布主办之后，仅用1年时间便正式开赛的。最终入选的7支队伍将于明年举行的决赛中一决高下。准决赛和决赛历时两年进行，可见赛事规模之庞大。
据传，安全与黑客研究人员也对本次大赛的奖金规模感到惊讶。总奖金高达1850万美元（约247亿韩元）。
DARPA是隶属于美国国防部、负责美军相关技术研发的机构。对尖端技术高度敏感的美国政府和国防部一直通过DARPA培育新技术。业界评价认为，如果没有DARPA的支持，作为信息技术核心地区的硅谷也很难发展成今天的模样，这一评价颇具分量。
在DARPA支持下诞生的代表性技术就是互联网和全球卫星导航系统（GPS）。大量研究成果向民间转移，彻底改变了人类的生活方式。
这样一家DARPA举办利用AI的黑客大赛，被视为一种警示：AI带来的风险可能威胁网络与计算机安全。本次大赛也可以看作是为了提前感知AI驱动的黑客攻击风险，并探索应对方案所作出的尝试。结合DARPA“提前挖掘可能出现的战略性问题，寻找并验证解决方案”的使命来看，这是一个完全可以预见的情景。
大赛的意义，也可以从赞助企业中看出。此次赛事由谷歌、微软、OpenAI、Anthropic等公司公开自家AI系统并提供支持。AI领域的领军企业纷纷积极参与，表明它们对“利用AI进行黑客攻击的演进”以及“利用AI进行防御的可能性”都给予了高度评价。
◇打造能发现并修复弱点的人工智能＝AIxCC的任务，是设计出保护开源软件的新型AI系统。换句话说，就是开发能够发现并修复程序漏洞的人工智能“网络推理系统（Cyber Reasoning System，CRS）”。
在本次比赛中，主办方事先在Jenkins、Linux内核（Linux kernel）、Nginx、SQLite3、Apache Tika等开源程序中植入漏洞，再要求参赛系统对这些漏洞进行修复，比赛由此展开。
晋级 AIxCC 大赛决赛的 Team Atlanta 队。Team Atlanta 由 Georgia Tech 教授兼三星研究院常务 Kim Taesu 负责。图片由 Team Atlanta 提供
View original image最终共发现22个漏洞，其中15个完成了修复。在SQLite3中还发现了出题方并未预设的真实缺陷。发现并报告这一缺陷的，是有韩国人参与的“Team Atlanta”队。对于本次大赛的结果，主办方也颇感意外。AIxCC项目负责人Andrew Karny表示：“按照DARPA的方式启动这项比赛时，我们并不知道假设是否会被证明，但现在已经可以确认，AI系统不仅能够识别漏洞，还能应用补丁，保护支撑关键基础设施的计算机代码。”
◇由韩国人主导的团队，有望成为AI防御黑客的里程碑＝Team Atlanta是由乔治亚理工学院（Georgia Tech）、三星研究院（Samsung Research）、浦项工科大学（POSTECH）、韩国科学技术院（KAIST）组成的联合团队。该团队的核心成员，是出自乔治亚理工学院Kim Taesu教授研究室、现任三星研究院常务的研究人员。Kim教授是信息安全专家，2021年被选拔为三星研究院最年轻的高管。本次团队成员大多为韩裔。Kim教授在团队博客中表示，团队自去年10月起便开始备战，并强调三星研究院员工在本次大赛中发挥了重要作用。
Team Atlanta的CRS系统“Atlantis”共发现了5个漏洞，并在数据库程序SQLite3中挖掘出出题方未曾设想的新漏洞，因而广受好评。
Team Atlanta提出的目标，是利用大型语言模型（Large Language Models）推动下一代安全研究，开辟“安全通用人工智能（Security-AGI）”领域。本次大赛中，他们同样以“利用AI和大型语言模型革新安全范式”为目标参赛。
据Team Atlanta介绍，“Atlantis”是下一代自动化漏洞发现与修复系统，具备超越机器的智能。它以大型语言模型为基础，能够检测并修复真实软件中的缺陷，通过类似人类的推理过程自动修补漏洞。该系统支持C/C++、Java等多种编程语言，也能应对Linux内核等复杂系统，并会随着时间推移自我进化，在无人干预的情况下自主进行推理。
凭借本次成绩，Team Atlanta将获得200万美元（约27亿韩元）的研究经费资助，并将晋级于2025年8月在DEF CON上举行的决赛，向冠军发起冲击。冠军奖金为400万美元。据悉，美国白宫计划将冠军团队开发的CRS免费公开，用于帮助防御黑客攻击。如果Team Atlanta夺冠，他们还有可能成为由美国政府推广应用的相关程序的供应方。
以寻找安全系统漏洞的“白帽黑客”专家身份参加Team Atlanta的KAIST教授Yoon Insu表示：“与以往赛事相比，本次大赛的题目难度大幅提升。DARPA方面似乎希望测试一种‘像人一样进行黑客攻击的AI’。预计在决赛中，将会出现涉及更多编程语言和操作系统的题目，我们会尽最大努力，把AI与安全深度结合，争取夺冠。”
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。
