[AI革命](120) 人人都能轻松检测深度伪造…Sandslab

近期，随着深度伪造性犯罪成为社会问题，国内一家中小企业免费推出可用于防止此类犯罪的服务，引发关注。这家公司是基于人工智能（AI）的网络威胁情报（CTI）专业安全企业Sands Lab。

Sands Lab人工智能技术开发组组长Choi Minjun于本月6日接受《亚洲经济》采访时表示：“我们正配合当前为阻止深度伪造犯罪和假新闻的国家形势开发和研究相关技术”，“希望Sands Lab的深度伪造检测技术能够在社会公益层面帮助到更多人”。

Sands Lab此次推出的服务是深度伪造检测解决方案“FakeCheck”。用户只需自行访问网站，上传一张疑似深度伪造的图片，系统便会在数秒内分析是否为伪造，并告知判别结果。为方便任何人轻松使用，该服务取消了会员注册或认证等繁琐流程，专注于最纯粹的功能。

Choi组长表示：“FakeCheck运用了多种AI模型，使其能够判断人物面部图像是否被篡改。这是一项以预防犯罪为目的的服务，因此不会对人物面孔以外的动物或物体的深度伪造图像进行判别”，“不过，通过持续征求意见和更新，不仅有可能扩大检测对象、提升检测率，今后也有可能支持对视频是否被篡改的判别”。

View original image

该服务免费提供，任何人都可以使用。Sands Lab决定从社会公益的角度，自行承担维持该服务所需的全部云服务等成本。

Sands Lab能够快速应对深度伪造犯罪，很大程度上得益于其正在执行与生成式AI相关的国家研发课题（IITP）。目前，Sands Lab与FortyTwoMaru、KAIST、Logpresso、LG Uplus等共同中标“信息保护核心源头技术开发项目”，正在开展研究开发工作。Sands Lab在该课题中负责生成式AI负面功能的检测与应对技术。

Choi组长表示：“在深度伪造部分，Sands Lab与LG Uplus是主要研究单位。现在课题推进才约4个月，还不能说已经拿出了了不起的技术和解决方案，但我们正努力利用Sands Lab现有技术，扎实地推进课题”。

事实上，Sands Lab是一家专注于网络安全的企业。其代表性品牌之一是“CTX（Cyber Threat X）”。CTX基于AI引擎分析文件，支持查询特定哈希值（MDS、SHA1、SHA256）。其特点是能够提供是否为恶意文件、攻击组织、目标国家及行业、MITRE ATT&CK攻击技术等信息。

View original image

Choi组长解释说：“最终总会有需要由人来直接判断‘这是恶意文件’的时刻。CTX能够快速提供诸如何时、何地、哪个攻击组织正以哪些行业和国家为目标等信息”，“由于向人提供了具有说服力的信息，因此可以加快对威胁的判断速度，也提升了工作效率”。

Sands Lab还在推进利用CTX的数据集业务。所谓数据集，是指为特定任务而按相关性汇集的数据。为了训练AI模型，需要结构化且高质量的数据集。Sands Lab的数据集不仅包含多种网络威胁攻击组织信息，还包括与攻击行动相关的活动信息，帮助AI算法能够更现实、更全面地应对各种情境。

必读新闻

“有钱也享受不到”……真正“顶级0.1%”的世界 [奢华世界]

• “我们月薪也要破1000万了”……在“半导体效应”下大型电子部件企业绩效奖金飙升
• “如今已不是我为中心？”…世界顶级狙击手也要失业的无人机时代
• 高手早已盯上：“股价目标97万韩元” 如今只剩“上涨行情” [周末Money]

Choi组长表示：“要进一步提升威胁检测和应对能力，生成式AI与数据集技术必不可少”，“今后将通过与国内生成式AI专业企业等开展多样化合作，加快全球技术开发步伐”。

版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。