中国向非法AI内容宣战…当局全方位扩大制裁与整治

by Kim Seungwook

Published 06 May.2026 08:11(KST)

9.8万个自媒体账号遭集中处罚
瞄准广告市场展开为期6个月的大规模整治
字节跳动旗下3款应用被下达整改命令

中国当局针对激增的非法生成式人工智能（AI）内容，开始展开全方位监管。

中国国家主席习近平。EPA联合通讯社供图

联合通讯社5日援引中国官方英文报纸《中国日报》等报道称：“中国互联网监管机构——中央网络安全和信息化委员会办公室（CAC）对9.8万个未标明内容来源却提供各类新闻和信息的个人媒体‘自媒体’账号实施了制裁。”所谓自媒体，是指在微信（中国版KakaoTalk）、微博（中国版X）等社交媒体上运营的个人或小规模独立运营者的非官方内容频道。据悉，其中相当一部分账号为提高点击量，在明知内容由AI生成的情况下，仍隐瞒事实上传视频。

作为中国市场监管机构的国家市场监督管理总局（SAMR）在上月底首次将制裁矛头指向与AI相关的线上广告生态。该机构针对包括AI滥用在内的违法行为，启动了覆盖互联网广告领域整体的为期6个月的集中整治行动。

据咨询公司QuestMobile推算，中国去年线上广告市场规模约为7930亿元人民币（约170万亿韩元），截至去年上半年，字节跳动、腾讯、阿里巴巴等三大大型科技企业被指合计占据了超过一半的市场份额。

中国当局认为，AI滥用以及利用自动化机器人（bot）进行流量作弊（虚增点击量）已成为新的风险因素，并表示：“当前迫切需要开展系统性、大规模的整治行动。”在本次行动中，当局将重点推进5大任务，包括强化监管与平台责任、加强对新型广告形式的监管、升级监测技术、提高内容标准等。在此之前，中央网络安全和信息化委员会办公室已在春节假期期间通过净化网络环境专项行动，删除了包括AI生成虚假内容在内的70.8万余条信息。

运营TikTok和CapCut等服务的中国大型科技企业字节跳动。路透社联合新闻网供图

对个别企业的直接制裁也在持续进行。中央网络安全和信息化委员会办公室于上月28日以AI生成视频未标注来源为由，约谈字节跳动运营方，责令其整改并予以处罚。此次被点名的服务包括3款产品：基于AI的视频剪辑应用CapCut、文件共享平台Catbox以及图像生成AI“Dreamina”等。当局指出，这些服务“违反了《网络安全法》以及与AI生成服务相关的规定，违反了AI生成与合成内容标识规定”。对此，相关企业也开始采取先发制人的应对措施。抖音今年以来已删除侵犯版权的AI视频53.8万条，并对4000余个账号实施了制裁。

必读新闻

“月薪150万不如去美国年入5亿” 首尔大·KAIST人才纷纷收拾行囊 [科学家正在消失]①

另一方面，被称为“第二个DeepSeek”，备受全球科技业界关注的字节跳动视频生成AI“ShiDance 2.0”因卷入版权争议而推迟了全球上线。ShiDance 2.0仅凭几张照片和简短指令，就能生成让人联想到知名演员或人气电视剧的15秒短视频，曾引发巨大话题，但也因此遭到内容行业以版权问题为由的强烈反对。

한글 기사 보기

本报道由人工智能(AI)翻译技术生成。