[新闻术语]ChatGPT“邪恶版本”WormGPT

by Choi Hokyung

Published 07 Jan.2025 17:00(KST)

被设计成可生成类人文本
冒充高管等发送伪造邮件窃取企业资金
初学者也能轻松上手黑客犯罪“大众化”隐忧

包括ChatGPT在内的生成式人工智能（AI）技术越是发展，利用其实施的网络犯罪也变得越发精细。业界预测，从今年起，滥用生成式AI的网络威胁将全面浮现，其中被称为恶意AI的“WormGPT”正浮出水面。

作为ChatGPT的“邪恶版本”，WormGPT是一种为实施钓鱼攻击或企业邮件诈骗（BEC）而开发的AI模型。企业邮件诈骗（Business Email Compromise）攻击，是一种以企业为目标、基于伪造电子邮件的网络诈骗犯罪。

WormGPT [图片来源=黑客论坛提供]

WormGPT被设计为能够生成与人类相似的文本，从而帮助黑客实施恶意攻击。比如，黑客冒充某家企业的高管，向财务部门员工发送伪造邮件，要求进行银行转账或修改银行账户信息，从而窃取资金或首席执行官（CEO）的相关信息。

最早发现WormGPT的，是美国电子邮件安全公司SlashNext。该公司表示，已于2023年7月在一处黑客论坛上发现了作为生成式AI犯罪工具的WormGPT。SlashNext分析称，WormGPT是一款形式上与ChatGPT相似的聊天机器人，被设计为可以轻易实施个性化钓鱼和企业邮件诈骗等网络犯罪。

WormGPT是基于人工智能研究机构EleutherAI于2021年发布的开源语言模型GPT-J制作而成，尤其集中学习了与恶意软件相关的训练数据。此外，与其他生成式AI不同，WormGPT中所有针对恶意请求进行响应限制的伦理保护装置均已被移除。

SlashNext研究员Daniel Kelley表示：“WormGPT生成的电子邮件使用专业商务语言，且不存在拼写或语法错误，因此很难识别其为钓鱼尝试。”

WormGPT 界面 [图片出处=Hacking forum 提供]

有预测认为，从今年起黑客将全面加大对生成式AI的利用力度，网络犯罪的风险也将进一步提高。尤其是WormGPT的出现，使得即便是初学者也能轻易借助生成式AI实施犯罪，因此有舆论担忧这可能导致“黑客犯罪的大众化”。

科学技术信息通信部和韩国互联网振兴院（KISA）在《2025年网络威胁展望》报告中警告称，滥用生成式AI模型的网络安全威胁可能进一步增加。报告将今年的主要网络威胁归纳为：▲生成式AI利用进入全面化阶段 ▲针对数字融合系统的网络威胁增加 ▲因国际环境变化导致的网络威胁加剧可能性 ▲无差别分布式拒绝服务（DDoS）攻击预计增加等。