随随身摄像机引入引发混乱
警察厅展开内部调查

近日,一段警察粗暴制伏网络主播(BJ)的画面在网上扩散,引发争议。观看视频的网友纷纷批评称“警方过度压制市民自由”,但相关视频被证实是利用人工智能(AI)制作的“假视频”。有分析认为,这与警方扩大引入执法记录仪的时间点叠加在一起,进一步加大了误解的可能性。


仿照警察随身摄像头拍摄效果制作的人工智能(AI)假视频。Instagram提供

仿照警察随身摄像头拍摄效果制作的人工智能(AI)假视频。Instagram提供

View original image

据联合新闻社23日报道,问题视频近日在YouTube、Instagram、TikTok等主要社交媒体平台上接连被发布,目前仅已确认的就超过50个。这些视频都被伪装成警方出警至暴力事件现场、争吵现场、酒驾取缔现场等情形下的执法记录仪画面。


典型案例包括:在富川站附近进行直播的BJ对警方要求其停止直播进行辱骂并反抗,随后被逮捕的画面;身穿校服在街头吸烟的学生在被警方训诫后,反讽称“警察到处偷偷拍摄”的画面等。所有内容都被精心包装得如同真实案件,但实际上都是用AI生成的虚假视频。


“是不是过度执法”……被AI视频蒙骗的网友们

这些AI合成视频仅在发布一个月内,就在Instagram上累计获得了1200万次播放,扩散速度极快。问题在于,相当一部分用户无法分辨视频真伪,将其误认为是警方的真实执法画面。


尤其是从首都圈开始,到本月初扩展至大田,警方执法记录仪在全国范围内扩大引入的现实背景叠加之下,被认为进一步加剧了混乱。实际上,在BJ被捕的视频下方,出现了大量诸如“警察在压制市民自由”“这不是过度执法吗”的批评性评论。


仿照警方随身摄像机拍摄效果制作的人工智能(AI)伪造视频。Instagram提供

仿照警方随身摄像机拍摄效果制作的人工智能(AI)伪造视频。Instagram提供

View original image

警察厅启动预备调查……是否能处罚仍“难以预料”

对此,警察厅表示,将对相关社交媒体频道展开立案前调查(预备调查),以阻止因传播AI制作的虚假视频而造成的进一步损害。警方认为,频道运营者可能出于使自己或他人获利或遭受损失的目的实施虚假通信,计划优先考虑以违反《电气通信基本法》嫌疑进行适用,并同时推进删除或屏蔽等措施。



但规定可处罚以损害公益为目的实施虚假通信行为者的条款(第47条第1款),已在2010年“Minerva事件”中被宪法裁决为违宪不合宪而被废止。由于至今尚未出台替代该条款的新法律,也有分析认为,频道运营者最终是否会真的受到处罚仍不明朗。


本报道由人工智能(AI)翻译技术生成。

版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。