中国网红因使用AI虚拟人直播引发争议

一名中国网红在进行直播“吃播”时,未经事先告知,使用由人工智能技术制作的虚拟替身(头像)进行直播的事实被曝光,引发当地网友愤怒。


台湾裔网红Chen Yiru在吃鸡爪吃播直播中被质疑使用人工智能虚拟形象的中国电视节目画面  图片来源 YouTube截图

台湾裔网红Chen Yiru在吃鸡爪吃播直播中被质疑使用人工智能虚拟形象的中国电视节目画面 图片来源 YouTube截图

View original image

据《卫报》当地时间6日报道,在中国社交媒体微博上活动的台裔网红Chen Yiru,今年9月进行了一场长达15小时的吃鸡爪直播时,使用了由人工智能技术制作的深度伪造虚拟替身。画面中的虚拟替身与Chen Yiru在长相、声音上几乎一模一样,几乎无法与真人区分,但他事先并未告知会在直播中使用虚拟替身。


直到观众开始怀疑,从清晨到深夜不停咀嚼鸡爪在现实中是否可能时,视频画面上方才突然出现“仅为播出用,并非真人”的提示语。《卫报》称,在整场15小时的直播中,真正的Chen Yiru是否有出镜、虚拟替身出现了多长时间等具体事实关系尚未被厘清。


这一事实曝光后,中国网友纷纷表示愤怒。微博上出现了“赚钱真容易”“这是对消费者的欺骗”“随着人工智能换脸技术的发展,明星赚钱会更轻松,坐在别墅里吹着空调,让虚拟替身干活就行了”等评论。据悉,Chen Yiru在微博上原本接近9万人的订阅数,在短短几天内就减少了7000多人。


中国媒体画面指控拥有台湾血统的网红 Chen Yiru 在吃鸡爪吃播直播中使用人工智能虚拟形象 [图片来源 YouTube截图]

中国媒体画面指控拥有台湾血统的网红 Chen Yiru 在吃鸡爪吃播直播中使用人工智能虚拟形象 [图片来源 YouTube截图]

View original image

据《卫报》报道,近期中国出现了多家制作人工智能虚拟替身的公司。美国科技专业媒体《麻省理工科技评论》指出,“随着技术发展,制作人工智能虚拟替身的成本也变得更低”,“基础款虚拟替身的制作费用为8000元人民币(约合143万韩元),更精细、更加复杂的虚拟替身价格则要贵2至3倍以上”。


报道还称,只要有一段时长1分钟、拍摄原始人物的视频,就可以通过训练人工智能生成虚拟替身。制作完成的虚拟替身可以按照既定脚本自然地完成台词、动作等表演。更进一步,虚拟替身制作公司还能利用大数据撰写直播脚本,高性能虚拟替身甚至可以与观众进行实时聊天互动。


由此一来,网红无需亲自撰写脚本并出面直播,只需决定通过直播要销售的商品品类和价格等内容,再对大数据生成的脚本进行审核即可。


据全球市场调研机构艾瑞咨询数据显示,目前中国的直播频道仅订阅用户就超过7亿,是一个庞大的市场。中国网红们为了实现24小时不间断直播,会在深夜或清晨时段启用虚拟替身出镜。



随着使用虚拟替身的网红不断增多,中国政府于上月11日发布了关于生成式人工智能技术使用的指导方针草案。其中包括必须以书面形式取得作为虚拟替身原型的真人对其生物识别信息被采集的同意等规定,但并未纳入“必须在使用虚拟替身的内容中告知已使用虚拟替身”的相关指引。《卫报》指出,预计在一段时间内相关领域仍将持续出现混乱。


本报道由人工智能(AI)翻译技术生成。

版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。

不容错过的热点