为博取浏览量和进行宣传等目的 虚假内容激增
连AI分析工具也难以准确判断视频真伪
信息获取受限反而助长虚假信息扩散
在美国与以色列、伊朗之间武力冲突不断升级之际，由生成式人工智能（AI）制作的虚假战争视频和图像正通过社交媒体迅速扩散。大量看上去如同真实战斗场面的影片获得数百万次浏览，引发外界对战争局势相关信息被扭曲的担忧。
当地时间10日，CNN以及英国广播公司和法新社等主要外媒报道称，近期社交媒体上大量传播包含特拉维夫遭导弹攻击画面、中东主要设施似乎被轰炸的画面、美军被处决场面等在内的虚假战争视频，并提醒用户务必提高警惕。尤其是部分视频的浏览量超过数千万次，像是在分享当前正在发生的事实一样扩散虚假信息。然而，其中相当一部分已经被证实是利用生成式人工智能或合成技术制作的虚假内容。
一个典型案例是，有账号在X（原推特）上以“中方向约旦的美军基地泄露了情况”为说明上传了一段空袭画面视频。该视频在短短一天内就获得了超过600万次浏览，但画面中的图像效果不自然、士兵轻易推开沉重防护墙等多处都被发现存在造假痕迹。
问题在于，部分人工智能分析工具也将这段视频判断为真实战斗画面。X提供的人工智能聊天机器人“Grok”在分析某段视频时表示，“爆炸和烟雾、士兵之间的对话等都与真实战斗场面相似”，因而认定其并非AI生成视频。然而，其他检测程序的分析结果则显示，该视频“约有75%为AI生成”。
电子游戏画面也被当成真实战斗视频传播
与战争相关的虚假内容不仅出现在视频中，也存在于图像当中。比如，显示迪拜哈利法塔被火焰吞没的画面，或看上去像是巴林美国海军第五舰队基地被摧毁的卫星照片等，都曾被上传到社交媒体。谷歌的分析结果显示，其中部分图像是通过人工智能工具生成或编辑的。
此类虚假战斗视频层出不穷，最大的原因无疑是为了通过浏览量获取收益。由于在 X 等平台上，浏览量高、互动多的帖子可以获得广告分成，一些用户便制作刺激性的虚假视频并肆意传播。SNS 截图提供
View original image甚至还有把电子游戏画面当作真实战斗视频分享的案例。配有“伊朗飞机攻击美国军舰”说明文字的视频，其实是游戏画面，但依然获得了大量浏览。之后在用户不断指出问题后，该帖子被加上了“与语境不符内容”的警告标识。这类虚假战斗视频大量涌现，最主要原因仍然是通过浏览量获取收益。由于在X等平台上，浏览量和互动量高的帖子可以获得广告分成，一些用户便制作刺激性的虚假视频并肆意传播。
以特定势力宣传为目的的内容也不少
此外，被推测为意在让人感觉某一特定势力在战争中占据优势的宣传性内容也并不少见。由于战争状态下信息获取受限，更难以核实真伪，这一点也被视为虚假信息扩散的背景原因之一.
此外，有相当一部分内容被推测是以宣传为目的，试图让人感觉在战争中某一特定势力占据优势。由于战争状态下信息获取受限，事实真伪更难核实，这一点也被视为虚假信息扩散的背景原因。SNS截图提供
View original image事实上，目前伊朗国内局势对外部采访处于受限状态。国际媒体和普通民众上传的大量视频主要通过社交媒体传播，使信息核查变得更加困难。短视频被快速消费的特性也被认为是加速虚假内容扩散的因素之一。对此，英国广播公司、CNN、法新社等主要媒体正加强对与战争相关内容的事实核查。各大社交媒体平台也开始加快应对虚假信息的步伐。虚假视频传播量最多的X方面表示，如果发布的AI生成战争视频未进行标注，将被排除在收益分成计划之外。
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。
