“天哪，我上次休假才去过”……烈焰冲天的迪拜：由AI“幻觉”生成的虚假地狱图

阿拉伯联合酋长国（UAE）迪拜的高层建筑哈利法塔被熊熊火焰吞噬，大楼冒出的黑烟直冲天空。不仅如此，巴林的一栋高层建筑也因遭到伊朗袭击起火，并开始坍塌，人们在一旁注视着燃烧中的建筑。然而，这一切画面都是由人工智能生成的视频。得知这段视频是伪造后，人们在评论中表示：“在社交媒体上，大众很容易被视频欺骗”“我们的社会如今正走向‘反乌托邦’（意指黯淡的未来）”等。

本月初在社交网络服务（SNS）X（原推特）上扩散的美军基地画面。原始图像只显示黑烟升起，却被人工智能篡改成仿佛被火焰吞没的样子。X截图提供

View original image

当地时间11日，美国有线电视新闻网（Cable News Network）和美联社（Associated Press）等媒体报道称，由生成式人工智能制作的与战争相关的照片和视频，正在社交媒体上大肆流传。视频中出现了中东国家的著名景点遭伊朗攻击后被大火吞噬，或人们为躲避炸弹而奔逃的画面。不过，美联社解释称，这些视频中存在建筑物重影等现象，显示其为人工智能生成，出现了“幻觉现象”。

实际上，在社交媒体上很容易找到由人工智能等技术制作的内容。在社交媒体平台TikTok上搜索迪拜时，出现了一段声称展示遭伊朗无人机袭击而受损的迪拜国际机场的视频，播放量约为3.5万次。该TikTok账号打上“新闻”标签，并称“这是迪拜国际机场内部受损的样子”，还表示“迪拜国际机场宣传室正与当局合作，启动紧急应对小组”。尽管这是由人工智能生成的视频，人们仍在评论区就其是否为人工智能作品展开争论。

随着人工智能技术的发展，视频造假手法愈发隐蔽。中国媒体企业字节跳动上月公开了人工智能视频生成模型“时Dance 2.0”。利用“时Dance 2.0”生成的好莱坞知名演员Brad Pitt与Tom Cruise在废弃建筑中打斗的画面，引发争议。人工智能智能体平台“GenSpark”同样只需文字描述就能轻松生成视频，使用GenSpark制作视频所需时间最短仅为15分钟。

问题在于，这些人工智能技术被用来制作经过操纵的视频。有人利用战争题材制作虚假视频以获取收益，或试图将舆论引向自己希望的方向。阿姆斯特丹大学教授Evangelos Kanoulas表示：“先进的人工智能技术可以通过对质感、面部、光线或背景细节进行细微调整，生成比原始画面更逼真的图像，从而强化关于特定事件的叙事。”

必读新闻

“有钱也享受不到”……真正“顶级0.1%”的世界 [奢华世界]

• “战争时暴跌，如今又涨了”……单日飙升6%，资金蜂拥入银市的真正原因[周末Money]
• 特朗普团队登机前将“在中国收到的物品”全部扔进垃圾桶
• 逼近48度的“怪物酷暑”发出骇人警告：“鸟类毫无防备，前景难料”[实验笔记]
• “目标股价97万韩元”……高手早已盯上，如今只剩“上升行情”了 [周末Money]

也有观点指出，人们在社交媒体上获取信息时，必须时刻考虑到人工智能操纵的可能性。加利福尼亚大学教授Hany Farid在接受美国有线电视新闻网采访时表示：“几个月前总结出的人工智能造假识别要领，如今已经失去作用。与其在社交媒体上匆匆浏览帖子，不如通过媒体等可信渠道获取消息。”

版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。