“不是警察随身摄像头吗？”…30多岁男子用AI制作散布虚假视频被捕

by Park Eunseo

Published 02 Feb.2026 14:47(KST)

运营“24小时巡逻”频道，累计播放量达3000万
涉嫌非法荐股群、制作销售AI淫秽物

一名运营YouTube频道、制作并传播人工智能（AI）虚假视频的30多岁男子已被警方拘留。

嫌疑人上传的人工智能伪造视频资料。京畿北部警察厅提供

京畿北部警察厅网络调查队2日表示，已以违反《电气通信基本法》等嫌疑，拘留了30多岁男子A某。

据警方称，A某运营名为“巡逻24时”的YouTube频道，涉嫌制作并传播“逮捕闹事中国人视频”、“出警处理男扮女装者闯入女更衣室举报视频”等，看上去仿佛是警方在案件现场通过随身摄像机拍摄的AI虚假视频。

调查显示，A某在频道简介中写有“与真实警察无关，基于真实事件改编的AI视频”等字样，但在单个视频中并未提示其为AI制作的虚假视频，还删除了表明为AI生成视频的水印。

相关视频以短视频形式在Instagram、TikTok、Facebook等社交媒体平台上传播，据悉累计播放量已超过3000万次。

警方认为，此类视频极有可能损害公众对警方公权力及公共机构的信任，因此立案调查并将A某予以拘留。

警方相关人士说明称：“最初制作的视频相当粗糙，但随着时间推移，视频质量不断提高。”调查发现，A某在视频制作过程中，利用了ChatGPT和Grok等生成式AI工具。

着手调查后，警方还查明，A某涉嫌参与运营无许可证的私人期货交易HTS和海外期货投资带单群的犯罪，扮演吸引受害者注意的所谓“托儿”角色，并以此获利约3000万韩元。同时，他运营付费订阅制社交媒体频道，收取费用后制作并销售由AI生成的淫秽视频，这一事实也被警方查获。

警方表示，已将今年10月前的阶段确定为集中打击损害社会共同体信任的虚假信息相关犯罪的专项整治期，并正在强化对类似A某案件的查处力度。

本报道由人工智能(AI)翻译技术生成。