尽管有义务设置YouTube年龄限制
大部分视频数月来仍被搁置
制作门槛低…担忧模仿类内容激增
某个YouTube“Shorts”中出现了一段花样滑冰双人滑比赛画面。画面中，男选手托举女选手的动作被刻意强调了特定身体部位的接触，这在真实的双人滑比赛中根本不会出现。该视频是利用生成式人工智能（AI）制作的粗糙作品，但播放量竟高达2300万次。
近期，利用AI制作的色情擦边视频正在快速扩散。这类视频动辄获得数千万次播放，但有舆论指出，年龄限制等最基本的保护装置并未正常发挥作用。
根据9日YouTube等平台的数据，这类色情擦边AI视频少则数十万次，多则超过3000万次播放。尤其是预览封面图中越是突出特定身体部位的内容，被平台推荐的频率就越高。播放量越高，发布者和平台分成的广告收益也随之增加。
按照YouTube的运营政策，一旦确认存在引导性刺激的性暗示演出，就应当采取“年龄限制”措施。但绝大多数视频在发布数月后仍未被施加任何限制。
在平台监管持续缺位的情况下，类似内容进一步扩散的忧虑也在加剧。生成式AI视频只需输入简单文本就能制作，极易催生大量模仿性内容。
在韩国国内，虽然已经制定了利用AI制作“未经同意的合成物”并予以惩处的相关规定，但针对面向不特定多数的色情擦边AI视频，几乎没有专门监管，事实上处于监管空白状态。
在海外，强化平台责任的立法正在快速推进。欧洲联盟（EU）通过《数字服务法》（DSA），对平台施加了迅速删除有害内容的义务；英国也通过《在线安全法》，以法律形式明确规定了平台阻断危害青少年和儿童内容的义务。
Sogang University新闻广播学系教授 Yoo Hyunseok 表示：“如今已形成了任何人都可以轻易制作AI视频的环境”，“有必要强化平台责任，以阻止色情擦边内容的扩散。”
本报道由人工智能(AI)翻译技术生成。
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。
