体验生成式AI金融诈骗：“逼真如同亲历”
国内首个生成式AI数字金融诈骗体验预防服务“差点上当”上线
由Thinkpool与“金融与幸福网络”等开发
逼真模拟犯罪分子反应引人注目
今后将新增AI突发联系等主动式体验
“如果代表连这点信任感都给不了，以后再把这种重要的场合交给您恐怕就很难了吧？”
假设你是在首尔江南经营高档韩式套餐餐厅的个体户。有一支知名演歌歌手团队联系说，演出结束后要来聚餐。对方说要来35人，你觉得有助于营业额，立刻答应了。这名所谓的工作人员发来了预约确认请求书和名片，并称该歌手想喝红酒，拜托你代为下单。对方说，按照内部结算规定只能用现金购买，如果你在他们事先说好的酒庄用现金结算，等到现场时会把餐费和酒费一起用公司卡一并支付。
店里本来就有红酒，你这样回复后，对方却再次拜托说：“歌手一定要指定的那款酒，难以用其他产品替代。”考虑到如今先预约却不现身的“爽约诈骗”猖獗，你强调说：“您一定要真的来店里并完成结算。”没想到对方却做出了开头那样尖锐的回应。你只好无奈之下，向名片上写着的酒庄账户汇去300万韩元。但这其实是一场骗局。工作人员发来的预约请求书、名片以及酒庄相关信息全都是假的。
以上案例，都是生成式人工智能根据记者的应对实际给出的回复。号称国内首个利用生成式人工智能开发的数字金融诈骗情境体验防范服务“差点就上当了”，由生成式人工智能像真实诈骗犯一样持续发送短信和语音，让用户身临其境地面对金融诈骗情境。开发该服务的金融人工智能企业Thinkpool研究中心主任 Kim Jeongmin 表示，用户即便知道是骗局，通过反复接触也能增强对金融诈骗的抵抗力，并解释称：“体验得越多，经验值就越能累积，从而产生预防效果。”
“差点就上当了”是作为2023年度产业通商资源部知识服务产业技术开发课题的一环而开发的。包括Thinkpool在内，公益法人“金融与幸福网络”、Pronum、韩国电子技术研究院、祥明大学等作为共同研究机构参与其中。“差点就上当了”这一名称，取自人们在千钧一发之际侥幸躲过钓鱼诈骗的惊险瞬间。
开发团队于本月17日面向30多名55周岁以上的老年人举办了体验活动。在进行数字金融诈骗预防专题讲座之后，安排了该服务的实际体验环节。其宗旨在于摆脱单纯授课式教育，通过亲身体验真实遭遇钓鱼诈骗的情境来学习应对方法。参与活动的61岁金某表示：“就算再怎么不想被骗，也有一种不得不上当的感觉，（人工智能的回答）非常逼真。”
国内首个利用生成式人工智能的数字金融诈骗体验预防服务“Hamateomyeon”的部分画面。平台提供了12个人工智能钓鱼体验案例。“Hamateomyeon”网页截图供图
View original image“差点就上当了”提供的金融诈骗体验，从输入虚拟信息开始。选择年龄段和性别后，会生成虚拟用户信息，用户在回答时必须以这套虚拟信息为基础进行对话。除了文字之外，也可以通过语音交流。考虑到老年人，还可以放大字体。
记者亲身体验的案例是“冒充艺人、先预订后爽约并要求代付的语音钓鱼”，目前“差点就上当了”内置的金融诈骗案例共有12种。从已存在多年的冒充检察院、警察，或是以绑架家人为名进行威胁，到近来盛行的虚拟币投资诈骗，都被涵盖在内。在体验过程中，即便记者稍微改变回答内容，人工智能也会持续说服记者。来电时还会响起铃声，与真实情境十分相似。体验结束后会给出预防评分，并显示与该案例相关的诈骗手法、预期损失以及应对与预防方法等信息。
正式应用程序预计从下个月起可在Google Play商店等平台下载。开发团队表示，今后将在开发多样化声音的同时，增加“主动式体验”功能。例如在客户同意的前提下，由人工智能在不经意间打电话或发短信，制造出“你女儿被抓住了”之类的威胁型语音钓鱼情境。团队还称，将实现定制化功能，方便教育机构加以利用。“金融与幸福网络”理事长 Jung Unyoung 表示：“期待也能将其用于面向老年人的数字素养培训”，“通过超越单纯灌输式教育的体验式教学，将在金融诈骗预防方面提供实质性帮助。”
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。
