“这种东西为什么要做？”蔓延韩国的诡异现象…外媒发出警示
SCMP聚焦韩国AI操控案例
“韩国AI内容消费位居世界前列”
现实与虚拟界限模糊，被指安全防护不足
有外媒分析称，随着生成式人工智能（AI）在韩国社会迅速普及，虚拟与现实的边界正日益模糊。
17日（当地时间），香港《南华早报》（SCMP）以《现实感缺失：韩国如何在AI面前失去对现实的感知》为题刊文报道。该媒体通过梳理在韩国接连引发热议的AI生成内容案例指出，与技术扩散速度相比，社会安全防护措施明显滞后。
SCMP列举的典型案例是近日在社交媒体上掀起热潮的所谓“棒球场女神”视频。这段时长5秒的视频拍摄的是一名坐在职业棒球比赛看台上的女性，被冠以“典型韩国女性”“韩国棒球女神”等标题传播，浏览量突破1500万次，成为话题。
然而，这名女性并非真实人物，而是由AI生成的虚假形象。棒球迷们根据电子记分牌上出现已退役选手与现役选手对阵的画面，以及应写作“最强斗山”却被误写成“最强是斗山”的应援标语等细节，查明了这一事实。
报道还提到，AI生成内容不止停留在“好玩”层面，甚至已经动摇到公共安全。今年4月，大田O-World动物园狼“Neukgu”出逃事件发生时，社交媒体上迅速扩散出一张似乎是狼在学校前十字路口游荡的图片。这张照片甚至影响到了灾难应对部门的居民疏散公文和新闻发布材料，但事后证实，它其实是用生成式AI制作的合成图。其后，制作该图片的40多岁上班族因涉嫌妨碍公务被警方逮捕。
SCMP称，韩国是全球所谓“AI Slop（AI垃圾内容）”消费最活跃的国家之一。AI Slop指为博取点击量而批量生产的低质量AI内容。全球视频编辑平台Kapwing分析称，以韩国为基地的11个AI Slop YouTube频道的累计播放量高达约84.5亿次。
报道还提到，2024年在社会上引发巨大震动的Telegram深度伪造性犯罪案件。大量将未成年人和女性脸部合成的非法图像被大规模传播，暴露出AI被恶意利用的高风险。
韩国AI安全研究所所长Kim Myeongju在接受SCMP采访时表示：“在对外貌和形象有着高度文化关注的韩国，AI正扮演着一面扭曲的镜子，代替满足被压抑的欲望和挫败感”，“过度沉浸会助长逃避现实，进而形成降低生活满意度的恶性循环”。
SCMP指出，韩国在生成式AI的接受和应用速度上位居世界前列，但在监管和伦理讨论方面仍明显不足。
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。
