为开发防范电话诈骗AI 通话数据利用渠道被打通

by Hwang Seoyul

Published 03 Jun.2024 15:00(KST)

6家机构携手开发防钓鱼AI
提供真实通话数据…兼顾个人信息保护
首家企业案例SKT：“将利用端侧AI”

为开发防止典型民生金融犯罪——电话诈骗的人工智能（AI）和相关服务，6个政府部门及机构将展开合作。由此，民间企业可以将真实的电话诈骗通话数据用于相关服务开发。

3日，科学技术信息通信部、金融委员会、个人信息保护委员会、金融监督院、国立科学搜查研究院、韩国互联网振兴院（KISA）在政府首尔办公大楼签署了“为预防电话诈骗的人工智能和数据基础相互业务协作协议”。

通过本次协约，电信运营商等民间企业在开发预防电话诈骗的人工智能技术和服务时，将能够获得相关通话数据。

金融监督院通过受害者举报收集的通话语音数据将提供给国立科学搜查研究院，由国立科学搜查研究院经过去标识化等预处理程序后再向民间提供。个人信息保护委员会和韩国互联网振兴院将就数据提供、收集和利用过程中可能发生的《个人信息保护法》相关争议进行法令解读和监管改善方案审查，并提供关于利用假名信息的综合咨询支持。

科学技术信息通信部、金融委员会、个人信息保护委员会将与通信和金融业界合作，积极发掘预防电话诈骗的人工智能技术和服务。还将与个人信息保护委员会一道制定在服务开发过程中遵守个人信息相关法律的方案，并利用个人信息保护委员会的“事前适正性审查制度”，在经营者依规执行相关方案的情况下，不作出《个人信息保护法》上的不利处分。

此外，科学技术信息通信部和个人信息保护委员会将规划并推进由政府主导的电话诈骗应对技术开发（研发）项目。科学技术信息通信部将与相关专家一起设计具体项目并提供预算支持；个人信息保护委员会则在研究过程中发掘与《个人信息保护法》相关的监管改善事项，并在必要时推进实证特例。

基于此类部门间协作，SK Telecom将开发电话诈骗检测与预防人工智能服务。该服务将基于通话语境实时判断是否疑似电话诈骗，并向本人或家属发送提醒通知。

例如，一旦检测到电话诈骗中常用的关键词或模式，或通过通话语境分析识别出冒充侦查机关、以金融交易为由索取个人信息等行为，即将其归类为疑似通话。通过人工智能分析通话内容来检测电话诈骗，有望比单纯阻断可疑线路更有效地应对电话诈骗犯罪手法。

SK电讯基于端侧人工智能的实时语音诈骗检测概念图

SK Telecom计划通过使通话数据不上传服务器、而在终端设备内处理的端侧人工智能技术，加强个人信息保护。为此，需要高质量数据来训练小型语言模型（sLM）。对此，国立科学搜查研究院在保护信息主体权利的前提下，制定了向企业提供数据的方案，即将约2.1万条通话数据转为文本，并在个人信息保护委员会和韩国互联网振兴院的咨询下，对敏感信息进行去标识化处理后提供给SK Telecom。目前数据的假名化处理等工作正在进行，计划于6月提供相关数据。

SK Telecom在获取数据后，将通过模型微调精细化提升性能，并将其装入原型产品进行验证后推出服务。今后还将持续接收数据，用于模型更新。

除此之外，个人信息保护委员会还接到来自电信运营商等多家企业就电话诈骗服务开发相关事宜的审查请求，今后将与金融委员会、科学技术信息通信部等共同讨论。