[双面AI]②防护也在进化…80万亿市场全面开启

by Choi Yuri

Published 07 Jun.2023 09:28(KST)

Updated 09 Jun.2023 08:24(KST)

open/close

从网络攻击检测到电话诈骗拦截
信息安全叠加生成式AI，一举两得

编者按生成式人工智能（AI）有着“两张面孔”。只要稍微动点“小心思”，它就能帮人编写协助黑客入侵的恶意代码或钓鱼邮件；反过来，它也能帮助发现程序漏洞、制定防御策略。一念之差，既可能沦为“黑客同伙”，也可能成为“安全专家的助手”。利用生成式AI试图攻破安全系统的一方，与试图阻止攻击的一方之间，上演着愈发激烈的“矛与盾之战”。安全业界认为，在利用AI的同时保护信息的安全技术，将成为新的增长动力。

得益于生成式AI，“盾牌”本身也在进化。安全软件正在“穿上”AI，投入到日益隐蔽、巧妙的网络攻击防御战中。有分析指出，AI技术将带动全球安全市场的增长。

市场调研机构MarketsandMarkets预测，利用AI的网络安全市场规模将从今年的244亿美元（约32万亿韩元）增长到2028年的606亿美元（约80万亿韩元），年均增幅达到21.9%。

AI有望成为安全专家的“万能助手”。专家可以以AI发现的漏洞为基础制定防御策略，或输入安全条件并要求其编写代码。这与把AI当作辅助黑客的工具，只有“一纸之隔”。如果出于善意加以利用，就能减少过度依赖少数安全监控人员带来的问题，并实现更高效的应对。

安全企业Igloo Corporation的AI检测模型“Igloo XAI”（暂称）就是代表案例。Igloo XAI与ChatGPT联动，提供针对网络威胁的AI分析结果，会像ChatGPT一样解释AI依据哪些标准将特定行为判定为正常或异常。比如，为了判断是否遭到攻击，将有效载荷（恶意代码中的核心部分）输入后，AI会给出预测结果，并说明攻击特征等。Igloo Corporation已完成试点测试，计划在今年7月正式推出Igloo XAI。

AI也被用于防范语音诈骗。RaonSecure子公司RaonWhiteHat目前提供基于AI的防语音诈骗应用“Smart Anti-Phishing”服务。下载安装应用后，AI会实时识别智能手机上的通话、短信、即时通讯等数据，以及远程控制、资金转账等关键行为。一旦判断为语音诈骗，便会实时向银行发送信息，阻断转账、贷款等操作；还会强制终止通话，并向亲友通报相关情况。通过这种方式，最近3个月共预防了约446亿韩元的语音诈骗损失。

也有利用AI防止信息外泄的“盾牌”技术。Jiranjigyo Data今年4月推出“AI Filter”。该功能可以监控输入ChatGPT的内容，并拦截指定的关键词、句子和模式。Jiranjigyo Data代表Jo Wonhee表示：“防止因ChatGPT导致信息外泄的最简单方法是直接封堵ChatGPT，但这等于放弃提升工作效率等优势”，“我们必须在保护信息的前提下，探索利用ChatGPT的方案”。

Fasoo则着手开发企业用AI聊天机器人。公司计划在明年年初推出面向企业和机构的专用聊天机器人“F-PAAS（Fasoo Private AI Assistant Services）”，而非类似ChatGPT的通用AI。其战略是打造一种大型语言模型（LLM），在安全保护内部数据的同时，让企业能够以定制化方式使用生成式AI。