“暴雨淹没景福宫，‘海豹’在水中游”……“画面逼真但不会上当”
逼真暴雨视频竟是AI生成
“无节制传播或损害社会信任”
“哇，雨下得太大了。景福宫完全被淹没了。”
一名身穿黄色雨衣的男子拿着自拍杆，在被水淹没的景福宫内四处走动。该男子称“景福宫完全被淹没了”，实时讲述首尔市中心暴雨灾害的情景。
在男子身后，还能看到有人用塑料水桶舀水的样子。就在这时，被水淹没的景福宫里突然出现了一只“海豹”。男子惊呼“太厉害了，是海豹！”一脸震惊。
但这段视频并非真实情况，而是由人工智能（AI）生成的假视频。
联合新闻通讯社于21日报道称：“最近在YouTube等视频平台上，以‘梅雨’‘暴雨’等关键词进行搜索，可以发现大量以被淹没的市中心为背景的逼真灾难视频”，并就AI假视频现象进行了报道。这些假视频包括水漫到胸口的地铁、被淹没的江南站为背景的实况转播画面等。网友们表示“看上去像真的”，同时也评价称“从情景本身就能看出是假的”。
据悉，该视频是利用谷歌自今年5月开始提供服务的视频生成AI“Veo3”制作的。在支持语音生成的Veo3上，只要支付订阅费，任何人都可以轻松制作短篇高质量视频。据了解，仅在短短两个月内，通过Veo3制作的视频就已超过4000万条。
此类AI视频也被应用于电视节目制作。MBC电视台近期在《Surprise》节目中，将“太空行走”“蒙娜丽莎被盗”等难以再现的场景用AI视频实现，引发关注。在节目预告片、广告方案等领域，利用AI视频的案例也呈增长趋势。
但AI视频被用于犯罪的案例同样在增加。尤其是将真人合成的“深度伪造（Deepfake）”视频，正被用于电话诈骗、恋爱诈骗等。据韩国刑事·法务政策研究院统计，与深度伪造相关的警方举报案件，从2021年的156件激增至去年（2025年前一年）的964件。今年这一增势仍在持续。
专家警告称，AI视频技术可能引发社会不信任和矛盾。东国大学AI融合大学特聘教授 Ko Samseok 表示：“AI视频的无节制扩散可能损害共同体的信任。”
然而，相关法律和制度的完善仍然不足。计划自明年1月22日起施行的《人工智能基本法》虽规定，对生成式AI内容必须标注“水印”，但由于水印可以被去除，其实际效果受到质疑。
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。
